Nació en la granja Göksäter en Runtuna Parish, cerca de Nyköping, Södermanland, hijo del pintor Olof Pilo (Pijhlou) y Beata Jönsdotter Sahlstedt.

En los años 1745-1747 comienza a introducir en su obra el estilo rococó, como se ve en sus retratos de Sophie Dorothea Danneskjöld-Samsøe y A. G. Moltke.

Pilo se convierte en miembro de la Academia ese mismo año.

Pilo también se inspira en el pintor francés Louis Tocqué, que visita Dinamarca en 1758-1759.

En 1771 Pilo sucede a Jacques Saly en la dirección de la Academia, y trabaja para dar a la Academia el patronazgo del príncipe Federico, el cual le otorga un título honorífico en 1772.

Pilo prosperó en la corte danesa hasta que hubo una reacción contra los extranjeros en 1771-1772, después de la expulsión del alemán Struensee de la Corte Real danesa, y del golpe de Estado del rey sueco Gustavo III, que puso a los daneses contra Suecia.

Pilo consideró que fue injuriado en la corte por Ove Høegh-Guldberg, una figura central en la toma de decisiones en la corte en ese momento, así como por Peder Als y el secretario del Gabinete Andreas Schumacher.

Viajó entre Skåne y Estocolmo durante 1772-1775, hasta asentarse en la ciudad de su infancia, Nyköping, en 1775.

Gustavo III le llama para que pinte su coronación; Pilo trató de rehusar, porque no había estado en la ceremonia, y porque nunca había pintado un retrato de grupo.

Vivió sus últimos años didicado a la Academia y a la que sería su obra maestra, La coronación de Gustavo III, en la que trabajó hasta el final de su vida.