Es conocido principalmente por sus papeles en los musicales Carousel, Oklahoma!, The Pajama Game, Carnival in Flanders, Three Wishes for Jamie, y A Joyful Noise, en los cuales asentó el estándar del intérprete viril, atractivo y de poderosa voz de la era dorada del musical de Broadway.
Su único papel protagonista para la pantalla grande fue en la versión filmada en 1957 del musical The Pajama Game, junto a Doris Day.
En 1957, también para la televisión, él y Mary Martin recrearon sus papeles protagonistas en Annie Get Your Gun.
En 1945 John Raitt fue uno de los primeros galardonados con el Theatre World Award, por su actuación en Carousel.
En 1965 protagonizó la vigésima entrega de los galardones en el Lincoln Center for the Performing Arts.