Era hijo del general Jean Auguste Margueritte (1823-1870), herido de muerte en la batalla de Sedán, cuya biografía escribió (Mon père, 1884; ed.
Adepto inicialmente al naturalismo, publicó distintas novelas de este género: Tous Quatre, La Confession posthume, Pascal Géfosse o incluso Jours d'épreuves antes de romper con Émile Zola.
En 1896 él y su hermano Victor Margueritte iniciaron un ciclo de novelas históricas (4 en total): Una época (Le désastre, Les tronçons du glaive, Les braves gens y La Commune), cuya redacción concluyó en 1908.
Fue amigo y contertulio del escritor español Armando Palacio Valdés, quien venía frecuentemente a veranear a una casa que tenía en Las Landas y también defendía la igualdad de la mujer.
Los hermanos Margueritte estaban emparentados con el poeta del simbolismo Stéphane Mallarmé por su abuelo Victor Mallarmé (1803-1871), tío del mismo.