Johnson comenzó trabajando en Broadway, especialmente en obras comerciales como uno de los miembros del coro.

Su debut en Hollywood se produjo asimismo como corista de una adaptación para el cine de una obra teatral en la que Johnson había trabajado.

A partir de la década de 1960, su estrella en el cine comienza a decaer y se incrementan sus trabajos para televisión en series de éxito como El virginiano, Hombre rico, hombre pobre, Se ha escrito un crimen o Batman (episodios 39 y 40, en el papel del villano El Trovador).

También aparecería en el spaguetti western La muerte de un presidente.

Su última aparición en el cine fue en 1985, en la película de Woody Allen La rosa púrpura del Cairo.