Entró al servicio público y se convirtió en maître des requêtes y en 1640 llegó a administrador de Piedmont.
En 1643, debido a su amistad con Julio Mazarino fue nombrado secretario de estado para asuntos militares, siendo un administrador eficiente.
Murió pocos días después de que se firmara la revocación.
Le Tellier, que amasó una gran fortuna, dejó dos hijos, uno el famoso político Louvois y el otro Charles Maurice Le Tellier, quien llegó a ser arzobispo de Reims.
Su correspondencia se encuentra en la Biblioteca Nacional en París.