El padre murió cuando Gastón tenía 7 años, y su madre emprendió un negocio de mercería con gran tenacidad e insistió en que sus hijos recibieran una buena educación.
Gaston tenía un hermano menor, Louis, que enseñó matemáticas en el Liceo de Nimes durante casi toda su vida.
Su tesis, escrita bajo la dirección de Michel Chasles, se tituló "Sur les faces orthogonales" (Sobre las caras ortogonales).
En 1870, cofundó la revista Bulletin des sciences mathématiques et astronomiques, llamada "Diario de Darboux" por sus contemporáneos matemáticos.
Entre sus alumnos figuraron Émile Borel, Élie Cartan, Édouard Goursat, Charles Émile Picard, Gheorghe Țițeica y Stanisław Zaremba;y continuó contribuyendo al Bulletin des sciences mathématiques francés incluso después de 1916.