Creció en la ciudad de Hannover y estudió Germanística, Románicas, Filosofía e Historia del Arte primero en Gotinga y luego en Breslau (1935-1942).

Miembro de las Juventudes Hitlerianas desde 1934, se inscribió en 1937 en el Partido Nacionalsocialista alemán.

[1]​ Ya escritor profesional en Gotinga desde 1942, Krolow se trasladó a Hannover (1952) y por fin a Darmstadt (1956), donde residió hasta su muerte.

Fue miembro del PEN club alemán y de la Academia de la lengua y literatura, así como de varios otros organismos científico-culturales.

Obtuvo el Premio Büchner de 1956 y numerosos reconocimientos oficiales, entre ellos el Premio Rainer Maria Rilke de Poesía en 1975 y el Premio Friedrich Hölderlin de 1988.