Su título es la palabra lunfarda que significa "cárcel" y el protagonista comienza la 5° estrofa diciendo “Me encerraron muchos años en la sórdida gayola”.
Además de La gayola, Gardel grabó sus tangos Beso ingrato, Lo que fuiste, Midinette porteña, Príncipe, Zorro gris y el vals Yo te imploro.
Una noche en el "Maipú Pigalls" discutió con Gardel y José Razzano pues estos afirmaban que no era posible poner música a una letra de la misma métrica del tango Mano a mano sin incurrir forzosamente en plagio musical.
Cuando Gardel y Razzano estaban nuevamente en el salón, la orquesta estrenó la flamante obra.
A Gardel le gustó tanto la obra que pidió la partitura y lo grabó al día siguiente.