Nacido en Groninga, Bakema estudió en la Groningen Higher Technical College (1931-1936) y en la Academy of Architecture de Ámsterdam.
En 1946 asistió por primera vez a una reunión del Congreso Internacional de Arquitectura Moderna (CIAM), convirtiéndose en su secretario en 1955.
También fue uno de los impulsores del grupo Team 10, junto a Aldo van Eyck o Alison y Peter Smithson.
Desde 1948 en adelante, Bakema trabajó junto a Jo van den Broek en su propio despacho, Van den Broek & Bakema.
En 1957, participaron en el concurso del Interbau de Berlín.