¿Utilizas Mame32 o la versión normal del Mame?. La diferencia entre ellos es que el primero es más sencillo de configurar, puesto que puedes hacerlo a través de ventanas de diálogo de windows (GUI). Para cambiar la configuración de la versión normal del mame, debes modificar el fichero mame.ini.

Yo te recomendaría que empleases Mame32, porque en principio es más sencillo para realizar configuraciones específicas y jugar un poco con ellas.