Hola de nuevo,
El advmame es más por si quieres usar la TV o monitor arcade conectado al pc mediante un cable RGB. Para verlo por supervideo con el MAME32 sobra, a parte de que es el más facil de configurar.
Lo del tearing igual es por el juego (no has dicho cual es), pero si tienes el Vsync y el tripple buffer activado y la TV configurada en NTSC los juegos te deberian ir con máxima suavidad. De todas formas pulsa F11 mientras juegas para ver si va al 100% de la velocidad y a 60/60 frames por segundo.

Saludos.