Por qué usas joytokey para jugar a MAME?

De todos modos, si no fuese porque te ocurre con pocas teclas, podría ser ghosting. Haz una cosa, vete al panel de configuración del josytick de windows y empieza a hacerle perrerías al joystick (muchos botones a la vez, movimientos rápidos, etc...) y comprueba si va bien. Si todo funciona como debería, entonces el fallo no es del joystick sino de software, igual la configuración de MAME, igual el joytokey.