Pierre-Marie Gerlier nació en Versalles, y fue abogado antes de decidir seguir una carrera eclesiástica.

Recibió la consagración episcopal el 2 de julio del mismo año por el cardenal Louis-Ernest Dubois, junto a los obispos Benjamin Roland-Gosselin y Maurice Dubourg como co-consagrantes, en la catedral de Notre Dame.

[2]​ Además, pidió que los institutos religiosos católicos escondiesen a los niños judíos.

[2]​ Por sus esfuerzos en salvar a los judíos durante la Segunda Guerra Mundial, fue póstumamente galardonado con el título de Justo entre las Naciones en 1981, por Yad Vashem.

Con el tiempo suficiente para asistir sólo a las tres primeras sesiones del Concilio Vaticano II, Gerlier fue aún cardenal elector en el Cónclave de 1963 que eligió al Papa Pablo VI.