Jeffreys nació en Fatfield, Washington, County Durham, Inglaterra.
Cursó sus estudios en la Universidad Armstrong en Newcastle upon Tyne, más tarde en la Universidad de Durham y por último en la University of London External Programme.
Se casó con una colega matemática y física, Bertha Swirles (1903-1999), en 1940 y juntos escribieron Methods of Mathematical Physics.
Jeffreys era un fuerte opositor a la idea de la deriva continental.
Para él, esta hipótesis era imposible porque no existe una fuerza lo suficientemente potente para mover los continentes por el planeta de tal forma.