Asegurate de que tienes estos parametros correctos en el fichero advmenu.rc:

device_video_pclock 5-50
device_video_hclock 15.75
device_video_vclock 50-60
video_size 320

Un saludo