Hersholt nació en Copenhague, Dinamarca, en el seno de una familia dedicada al teatro, con la cual viajó desde niño por Europa haciendo representaciones teatrales.
En 1913 emigró a los Estados Unidos, país en el que interpretó el resto de su filmografía.
En The Country Doctor (1936), una película protagonizada por las quintillizas Dionne, Jean Hersholt interpretaba al Dr. John Luke, un personaje inspirado en Allan Roy Dafoe, el obstetra canadiense que trajo al mundo a los Dionne Quintuplets.
Por ello decidió crear su propio personaje médico radiofónico y, dado que era un entusiasta de Hans Christian Andersen, tomó prestado el nombre para crear al filosófico Dr. Paul Christian, que practicaba la medicina en la ciudad de River's End, con la asistencia de la enfermera Judy Price (que fue interpretada por Rosemary DeCamp, Lurene Tuttle, Kathleen Fitz y Helen Claire).
Hersholt fue nombrado caballero por el rey Cristián X de Dinamarca en 1948, en parte gracias a su actividad literaria.