Después de cursar sus primeros estudios en el Colegio Napoléon (Henri IV) ingresó a la Escuela Normal Superior (1865) y posteriormente a la Universidad de Heidelberg, donde se familiarizó con las ideas de Eduard Zeller, Hermann von Helmholtz y en general con la filosofía alemana.
Un año después, en 1877, ingresa como profesor a la Escuela Normal Superior y el 6 de diciembre de 1880 nace su hijo Pierre Léon, quien se convertiría con el tiempo en un destacado matemático.
En 1885 Émile Boutroux comenzó a trabajar como profesor a media jornada en la Universidad de París (La Sorbona), pero no sería hasta el año de 1888 cuando comenzaría a trabajar a jornada completa en dicha universidad asumiendo la cátedra de Historia de la Filosofía Moderna.
Diez años después ingresó a la Academia de Ciencias Morales y en 1902 se convirtió en director de la Fundación Thiers.
Por sus destacadas aportaciones a la filosofía fue invitado a ocupar el sillón número 32 de la Academia Francesa en el año de 1912.