Nacido en Sólheimar, abandonó Islandia en 1916 para estudiar en el Conservatorio de Leipzig (Alemania) en el que se graduó en 1921 después de haber estudiado piano y haber dedicado posteriormente su carrera a la dirección y composición.

Casado con la pianista Annie Riethof, tuvieron dos hijas, Snót and Líf, residiendo en Wernigerode y posteriormente en Baden-Baden.

Debido al origen judío de su esposa, su familia fue perseguida por las autoridades nazis.

Conmovido por el hecho y en su recuerdo, el compositor escribió su cuarteto de cuerda Vita et Mors.

Jón y su esposa fueron objeto de la película Tears of Stone / Tár úr steini (1995) del director islandés Hilmar Oddsson.