Mientras practicaba deporte en la escuela, un director teatral de una compañía en gira se fijó en él, y le contrató como extra.
Su inicial carrera se vio interrumpida por la guerra, pues sirvió en el ejército durante la misma.
Se convirtió en ídolo de matiné gracias a una obra titulada The Cobra, y pronto empezó a actuar en el cine.
Entre sus papeles más importantes figuran tres que hizo en 1950: uno cantado, como Buffalo Bill en la versión cinematográfica de Annie Get Your Gun (La reina del Oeste); el traicionero jurista y viejo amante de Marilyn Monroe en La jungla de asfalto, de John Huston; y su papel nominado al Oscar como Oliver Wendell Holmes, Jr.
Además de The Magnificent Yankee, tuvo éxito en Broadway con Jacobowsky and the Colonel (1944) y con el papel principal de El rey Lear (1951).