No identifico muy bien el tipo de tembleque que aprecias...
¿Es perfectamente visible, o solo si no miras directamente al monitor?

Si es el primer caso, puede ser un problema con el sincronismo. Eso puede pasar o bien porque la frecuencia no sea la exacta, porque las temporizaciones sean imprecisas (amos, ahora 50 Hz, despues 51 Hz, luego 49 Hz) o que la combinación del video no sea la correcta (la polaridad de alguno de los sincronismos). Tambien puede ser una mala masa en alguno de los cables.
De todos modos, si tienes una ArcadeVGA me parece extraño.
Si es el segundo, es casi seguro porque utilizas un barrido entrelazado, y no está bien sincronizado (ver el paso anterior). Esto hace que los campos pares e impares 'bailen' en la pantalla, con lo que la imagen se desplaza 1 o 2 lineas arriba o abajo, a veces imperceptibles si miramos la pantalla directamente, pero muy molestas a la vision periferica.

Saludos.