Gandillac fue condiscípulo de Jean-Paul Sartre en el bachillerato y en la Escuela Normal Superior de París.

Alumno brillante, tuvo notables profesores como Georges Cantecor, quien le hizo descubrir a Friedrich Nietzsche como contrapeso a su tomismo, y a Étienne Gilson, quien le hizo conocer a Nicolás de Cusa, filósofo renacentista al que le consagraría su tesis en 1941.

Su actividad como catedrático en la Sorbona se ha hecho sentir en varias generaciones de filósofos; enseñó en sus aulas entre 1946 y 1977.

Dirigió los primeros trabajos de sus estudiantes Michel Foucault, Jacques Derrida, Jean-François Lyotard, Louis Althusser y Gilles Deleuze.

Gandillac fue el primer traductor al francés de Walter Benjamin.