Estudió en la Universidad de Frankfurt (Johann Wofgang Goethe Univesität) y después obtuvo licencia en la Universidad Técnica de Darmstadt (1966), doctorándose en 1969.

Por sus descubrimientos sobre la magnetorresistencia gigante, obtuvo el Premio Nobel de Física, junto a Albert Fert en 2007.

[2]​ En 1986 descubrió el acoplamiento de intercambio antiparalelo entre capas ferromagnéticas separadas por una capa delgada no ferromagnética, y en 1988 descubrió el efecto magnetoresistivo gigante (GMR).

Otra aplicación del efecto GMR es la memoria magnética no volátil de acceso aleatorio.

Ganó el Premio Futuro Alemán de Tecnología e Innovación en 1998 y fue nombrado Inventor Europeo del Año en la categoría "Universidades e instituciones de investigación" por la Oficina Europea de Patentes y la Comisión Europea en 2006.