Löb creció en Berlín, pero huyó de la Alemania nazi y llegó al Reino Unido justo antes de que estallara la Segunda Guerra Mundial.
Como extranjero proveniente de un país en conflicto con el Reino Unido, en 1940 fue deportado a bordo del Dunera a un campo de internamiento en Hay (Nueva Gales del Sur, Australia).
Con 19 años, Löb aprendió matemáticas por parte de otros internos.
A Löb se le permitió volver al Reino Unido en 1943.
Consiguió el doctorado y empezó a trabajar como profesor asistente en la Universidad de Leeds en 1951, donde permanecería 20 años, pasando a ser profesor asociado y finalmente profesor titular de Lógica Matemática entre 1967 y 1970.