Se le debe principalmente la construcción del Palacio de Sanssouci en Potsdam.
Primero fue soldado al servicio del ejército prusiano, pero en 1729 abandonó su puesto de capitán para consagrarse enteramente a su pasión por la arquitectura.
Como arquitecto, Knobelsdorff se sintió inclinado hacia el estilo clasicista francés y el palladianismo.
Sus primeros trabajos en Rheinsberg (que era la residencia del monarca en la época) le permitieron elaborar las primeras bases del rococó federiciano, particularmente en materia de decoración interior.
Knobelsdorff ejerció las funciones de conservador jefe del conjunto de los edificios reales y era consultado secretamente, por otra parte, en cuestiones financieras.