Desde su juventud tuvo la ambición de entrar en el servicio del Estado, por lo que se decidió a estudiar Derecho.
Ese mismo año se trasladó a Leipzig, donde además de Derecho estudió literatura.
Hardenberg se traslada a Wetzlar, Ratisbona (donde estudia los mecanismos del gobierno Imperial), Viena y Berlín.
También visita Francia, las Provincias Unidas y regresa a Inglaterra, donde el rey Jorge III lo recibe con muchas atenciones.
En Brunswick impulsó reformas de la ilustración que lo hicieron impopular con los clérigos ortodoxos y los conservadores.
Se casó en segundas nupcias con la también divorciada Sophie von Lenthe y abandonó Brunswick para pasar al servicio del margrave de Ansbach-Bayreuth como ministro.
Hardenberg demostró su tacto diplomático en este puesto, manejando con sutileza las complejas implicaciones territoriales de esta adquisición por Prusia.
Por medio del tratado firmado en Schönbrunn, Prusia obtiene Hannover pero pierde todos sus territorios en el sur de Alemania.
Hardenberg pasó al exilio en Riga, desde donde influenció la política en Prusia, teniendo parte en el nombramiento de Karl Freiherr vom Stein como primer ministro, lo mismo que en su destitución final.
Continuó las reformas en el gobierno de Prusia iniciadas por el barón vom Stein y que habían sido congeladas por Altenstein.
Sin embargo, no logró su principal objetivo, que era la creación de una constitución y el derecho al voto popular.
No fue hasta la derrota del ejército francés en Rusia, al fin de 1812, que entró en acción.
Tras los Decretos de Karlsbad en 1819, su influencia fue decayendo y la diplomacia europea estuvo dominada por Metternich.