Podrías intentar una prueba simple que no te llevará mucho tiempo (media hora) y que te servi´rá para descartar un posible fallo tonto: descárgate el MAME de línea de comandos (sin plus ni ná) y a ver si te jala.