Nacido en Binghamton (Nueva York), tuvo un hermano, Tom Herbert, que también fue comediante cinematográfico.

La llegada del cine sonoro propició que muchos actores con experiencia teatral viajaran a Hollywood, siendo este el caso de Hugh Herbert, que en poco tiempo llegó a ser una popular figura cómica.

En sus primeras películas, como en la de 1930 de Bert Wheeler y Robert Woolsey Hook, Line and Sinker, Herbert hacía papeles cómicos que podía haber interpretado cualquier otro comediante.

Sin embargo, Herbert pronto desarrolló su propia personalidad cinematográfica, completada con una risita tonta.

En los años treinta trabajó con frecuencia en filmes de Warner Bros., entre ellos Footlight Parade, Dames, Bureau of Missing Persons, Niebla sobre San Francisco (Fog Over Frisco, 1934), El altar de la moda (Fashions of 1934, 1934), Gold Diggers of 1935, y A Midsummer Night's Dream.