Estudió composición con Jules Massenet y en 1887 ganó el Prix de Rome por su cantata Didon.

Durante el tiempo que estuvo en Roma gracias al premio, compuso la pieza orquestal Impressions d'Italie y empezó a trabajar en el libreto y la música de lo que sería su obra más conocida, la ópera Louise.

Tuvo un éxito inmediato, siendo representada muy pronto por todo el mundo, obteniendo con ello Charpentier reconocimiento mundial.

Se hizo una película con esta ópera, en 1939 con Grace Moore en el papel titular, y Louise aún se representa ocasionalmente hoy en día, y su aria "Depuis le jour", es una pieza interpretada con frecuencia en los recitales.

Charpentier prácticamente no volvió a componer el resto de su vida.