[1][2] Los padres de Herman Chernoff eran Pauline y Max Chernoff, inmigrantes judíos de Rusia.
Estudió en Townsend Harris High School[2] y obtuvo una licenciatura en matemáticas del City College de Nueva York en 1943.
[3] Asistió a la escuela de posgrado en la Universidad de Brown, obteniendo un máster en matemáticas aplicadas en 1945 y el doctorado en matemáticas aplicadas en 1948 bajo la supervisión de Abraham Wald.
[3] Trabajó para la Comisión Cowles para la Investigación en Economía en la Universidad de Chicago.
[5] En 1987, la Asociación Estadounidense de Estadística lo seleccionó para el Premio Wilks Memorial,[6] y en 2012 fue nombrado miembro inaugural de la American Mathematical Society.