Tras su formación inicial en el Gymnasium Philippinum de Marburgo, Justi estudió Teología y Filosofía en Berlín.
En 1859 logró plaza de docente en Filosofía por su trabajo sobre los elementos estéticos en la filosofía platónica (Die ästhetischen Elemente in der platonischen Philosophie).
Su obra capital está dedicada a Diego Velázquez.
Pero escribió asimismo biografías de Winckelmann, Murillo y Miguel Ángel.
En recuerdo de su figura se creó en 1989 la "Carl-Justi-Vereinigung zur Förderung der kunstwissenschaftlichen Zusammenarbeit mit Spanien, Portugal und Iberoamerika".