Hola Palillo,
Cuando se conecta el X-arcade con el teclado al pc éste actua exactamente como si fuera un teclado, por lo tanto funciona sin problemas con el MAME. En cambio al conectarlo con el método que has usado, el X-Arcade se comprta como un Joystick y el mame no lleva activada la opción de joystick por defecto.
Si usas el MAME32 ves a 'Options/default game options' y le das a 'controllers' , una vez alli marcas la casilla de 'enable joystick input' y ya está, el X-arcade debaría funcionarte sin problemas (eso si, quizá tengas que redefinir los controles a tu gusto)
En cuanto a lo de los ejes no te preocupes, es normal, ten en cuenta que el pad de PSX tiene 3 'palancas' (por decirlo de alguna forma) y el X-arcade solo una. Existe la opción de intercambiar el funcionamiento de la palanca del X-Arcade entre las diferentes palancas del pad de PSX.
Si no recuerdo mal es: Select (el boton lateral del jugador) + boton 1 (la palanca funciona como el pad digital), select+boton 2 (palanca analógica izquierda), select+boton 3 (palanca analógica derecha). Esta opción está más que nada por si se necesita obligatoriamente el uso de una palanca analógica concreta en un juego de PSX/PS2. En principio con el MAME con que te funcione como palanca digital es suficiente.
Ya nos contarás si funciona o no, ¡suerte!

Un saludo.