Entre sus trabajos teatrales en el circuito de Broadway figuran los que hizo en las obras A Hatful of Rain, One More River (ganando una nominación al Premio Tony por su actuación), Anyone Can Whistle, La rosa tatuada (1966), The Seven Descents of Myrtle y Woman of the Year.
Para el cine trabajó, entre otras películas, en Houseboat, Pork Chop Hill, The Five Pennies, Rey de reyes, Madigan, Lovers and Other Strangers y Harry el sucio, siendo nominado en dos ocasiones al Globo de Oro al mejor actor de reparto.
Para la televisión, en 1960 Guardino interpretó a Johnny Caldwell en los episodios "Perilous Passage", "The O'Mara's Ladies" y "Daughter of the Sioux" en la serie western de la NBC Overland Trail, protagonizada por William Bendix y Doug McClure.
Su principal coprotagonista era Gary Merrill, con el papel de Lou Sheldon.
Guardino tuvo, además, un papel continuado como el enemigo de Perry Mason, Hamilton Burger, en el programa de 1973 The New Adventures of Perry Mason, y un papel recurrente en el show de Angela Lansbury Murder, She Wrote.