Desde el principio, Kelly fue considerado un estudiante pobre y su calificación más alta (una C+) se otorgaba por una buena higiene física.

Fue durante este tiempo que Kelly conoció a una joven llamada Geneva Ramsey.

Ella también hizo todo lo posible para familiarizar su nombre dentro de los círculos clandestinos del crimen.

El New York Daily News calificó su secuestro de "espectacular", afirmó que "por su descarada audacia (no) no tiene paralelo", y sugirió que tales crímenes "representan un desafío para la sociedad organizada".

Los estafadores lo llamaban 'Pop Gun Kelly' por las pistolas de corcho que eran populares entre los niños... los muchachos no lo tomaban en serio..." Esto puede deberse al hecho de que, además de sus cuentos exagerados, Kelly era un prisionero modelo y no actuaba como el gángster brutal que su esposa, los medios de comunicación y el FBI habían hecho creer que era.

Pasó 17 años en Alcatraz como el recluso número 117, trabajando en las industrias penitenciarias, sin dejar de alardear y exagerar sus escapadas pasadas a otros reclusos, y fue transferido silenciosamente de regreso a Leavenworth en 1951.