Su padre, también llamado Philipp Spitta, fue un teólogo quien escribió la colección protestante de himnos titulada Psalter und Harfe.

Entre los alumnos a los que dio clases figuran Oskar Fleischer, Max Friedlaender, Carl Krebs, Max Seiffert, Emil Vogel, Peter Wagner y Johannes Lobo.

Fundó uno de los primeros periódicos académicos sobre música, el Vierteljahrsschrift für Musikwissenschaft, con Friedrich Chrysander y Guido Adler en 1885, y también tuvo una función importante en la publicación del Denkmäler deutscher Tonkunst.

Dejó una fuerte influencia en los nuevos campos de musicología y crítica histórica.

En su biografía sobre Bach, escribió el primer estudio importante de la música para teclado y coral alemanes del siglo XVII (barroco temprano).