Es conocido por interpretar a Randy en la comedia dramática Silver Linings Playbook (2012) de David O. Russell y Whispers DiTullio en la epopeya criminal de Martin Scorsese The Irishman (2019).

[2]​ Sus apariciones en películas incluyen Érase una vez en América, At Close Range, We Own the Night, Heat, Crazy Heart, Quick Change, Sleepers, Cop Land, The Fan, Analyze That, The Day Trippers y American Hustle.

También interpretó a personajes menores de fondo en otras dos películas policíacas de Scorsese, Goodfellas[3]​ y Casino, en esta última era un jugador que se precipita a la cabina telefónica para hacer la misma apuesta que Sam Rothstein (Robert De Niro) hizo.

[5]​ Herman, junto con su hermano Charlie, dirigía el Columbus Cafe en la década de 1990.

Herman también tenía una pequeña participación en la propiedad del café, junto con Mijaíl Barýshnikov y otros actores.