Cuatro años más tarde, Pierre regresó a Toucy para enseñar en una escuela primaria, pero este oficio le frustró debido en parte a los métodos de enseñanza que encontraba arcaicos y demasiado rígidos.
Durante el periodo de tiempo que va desde 1848 hasta 1851, enseñó en un colegio de internos privado, donde pudo encontrar a la que sería su futura esposa, Suzanne Caubel (aunque no se casarían hasta 1872).
En 1856 publicaron el Nuevo Diccionario de la Lengua Francesa, el precursor del Petit Larousse.
Sin embargo, Larousse comenzaba ya a planear su siguiente proyecto, mucho más ambicioso.
En 1869, Larousse dio por terminada su sociedad con Boyer y pasó el resto de su vida trabajando en el gran diccionario.