Hola Sokaris,
Apunta:
Use Direct3D:activado
Texture management:activado
Rotate effects:activado
Filter: Bilinear / none (segun el que más te guste)
Effect: Auto
Prescale:Auto
(Opcional:Scanlines 50 u otro valor, depende de lo que quieras que se noten las scanlines.)
El efecto que se saca asi es como este, supongo que será parecido a lo que buscabas:


Dale una ojeada a este post que habla de este tema y se ven varias visualizaciones más: http://www.forumcommunity.net/?t=1094202
Una vez más darle las gracias a [MaD] por las geniales fotos de las diferentes visualizaciones del mame32.
Saludos.