Voy a tener a prepararme un copy&paste de tantas veces que he respondido esta cuestión
A ver, en Mame el Killer Instinct va lento o no dependiendo de la potencia de tu pc. Tienes que saber que Killer Instinct y Killer Instinct 2 son juegos bastante exigentes con el hardware y para poder disfrutarlos al 100% te recomiendo un pc con una potencia de procesador en torno a los 2'5 Ghz y si es posible disponer de una memoria RAM de 512 MB.
Estas cifras son aproximadas, creo que para el Killer Instinct bastaría con un poquito menos de requerimiento de lo que te he dicho pero para el Killer Instinct 2 puede que no te vaya al 100% continuamente si no tienes esa potencia o más. Evidentemente, cuanto más potencia tengas más fluidamente se ejecutaran.

En cuanto a la emulación de este juego con el emulador U64 no puedo decirte gran cosa porque no lo he probado. Si que sé que las exigencias para emular el Killer Instinct con este emulador son bastante menores que para el Mame pero también sé que la emulación no es 100% fidedigna con respecto al arcade.
No se que pc tienes, pero si no te acercas a los requerimientos exigidos por el Mame puede que te compense probar con el U64 a ver que tal, que a lo mejor ni siquiera notas las posibles diferencias que te he comentado anteriormente.