Es una historia sarcástica que trata sobre una pareja de humanos, un gato, y un ratón: el ratón sale de su hoyo por la noche y es visto por la pareja, quien intenta capturarlo, pero fracasan.
El gato de la casa arrincona al ratón pero en un desesperado intento de salvarse a sí mismo, el pequeño ratón le arroja un tarro en la cabeza al felino y lo derriba.
Finalmente, el gato intenta salvar su honor contando que repentinamente apareció un ratón gigante.
Esta misma metamorfosis puede ser observada en canciones como "Squonk", "Robbery, Assault & Battery", o "Eleventh Earl Of Mar", aunque "All in a Mouse's Night" no se acerca, en términos de contenido, a ninguna de ellas.
Es una gran canción pero no ha causado un profundo efecto entre los seguidores del grupo.