Nacido en Boston, Massachusetts, en 1934 Sherman estrenó en el circuito de Broadway una comedia escrita por él, Too Much Party.

Dos años más tarde hizo su primera actuación en Horse Eats Hat.

Entre las obras teatrales en las que participó figuran Julio César, Very Warm for May, Cyrano de Bergerac, Boyd's Daughter (la cual además dirigió), Mary, Mary, Two's Company, y How Now, Dow Jones, ganando el Premio Tony al mejor actor de reparto en un musical por las dos últimas.

Como actor cinematográfico pueden mencionarse sus trabajos en The Solid Gold Cadillac y Oh Dad, Poor Dad, Mama's Hung You in the Closet and I'm Feeling So Sad.

Hiram Sherman falleció a causa de un accidente cerebrovascular en Springfield (Illinois) en 1989.