Joseph Joachim Raff nació en 1822, hijo de padre alemán originario de Wurtemberg y emigrado a Suiza y de madre suiza originaria de Schwyz, se hace profesor desde 1840.
Tras conocer y llegar a ser amigo del «Maître de Chapelle» de Zürich Franz Abt, decidió convertirse compositor de forma autodidacta y envió sus primeras piezas para piano a Felix Mendelssohn-Bartholdy que las recomendó vivamente a su editor en 1843.
Fue igualmente en este periodo que fue amigo de Hans von Bülow que llegó a ser uno de los directores de orquesta más famosos de su tiempo.
En 1877, nombrado primer director del «Hochsches Konservatorium» de Fráncfort del Meno, impartió clases del curso de composición a Edward MacDowell, su alumno más destacado.
Su Primera Sinfonía obtuvo el primer premio de la «Wiener Gesellschaft der Musikfreunde», delante de sinfonías de compositores reputados como Carl Reinecke o Robert Volkmann.