[1][2] Nacido en Berlín en una familia pobre, cuyo padre era un humilde escribano de Torá,[3] Herz estaba destinado a ser un comerciante.
En ese periodo fue contratado como secretario del potentado ruso Efraim, con quien viajó por las provincias bálticas.
Su conexión con Kant no solo influyó en sus ideas filosóficas, sino que desempeñó asimismo un papel fundamental en su vida personal, ya que contrajo matrimonio en 1779 con la hija de Kant, Henriette.
[2][1] Su obra más conocida, Ensayo sobre la Ilustración (1783), refleja su compromiso con las ideas ilustradas y su deseo de aplicar los principios racionales al campo de la medicina.
Herz fue amigo y alumno de Moses Mendelssohn.