¿Qué versión de ADVMAME usas? Es muy raro lo de los caracteres extraños. Yo lo acabo de abrir con el NOTEPAD y se ve perfectamente. He aquí un extracto del mismo:

debug_crash no
debug_internaldepth auto
debug_rawsound no
debug_speedmark no
device_color_bgr15 yes
device_color_bgr16 yes
device_color_bgr24 yes
device_color_bgr32 yes
device_color_bgr8 yes
device_color_palette8 yes
device_color_yuy2 yes
device_joystick none
device_keyboard auto
device_mouse none
device_sdl_samples 2048
device_sound auto
device_svgawin_divideclock no
device_svgawin_skipboard 0
device_svgawin_stub fullscreen
device_video auto
device_video_cursor auto
device_video_doublescan yes
device_video_fastchange no
device_video_interlace yes