Completó sus estudios en Hamburgo y luego estudió en varias universidades alemanas, finalmente yendo a La Sorbonne en París en 1932.
En La Sorbonne escribió su disertación sobre la amistad entre Zola y Cézanne, teniendo que convencer a las autoridades académicas, ya que Cézanne (que murió en 1906) era considerado una figura muy reciente Cuando Francia declaró guerra con Alemania en 1939, Rewald fue clasificado como un enemigo extranjero .
Desde 1943 organizó exhibiciones en museos y empezó a trabajar en su magnum opus, "The History of Impressionism", el cual publicó en 1946 Entre 1961 y 1964, Rewald fue profesor visitante en la Universidad de Princeton.
En ese año recibió el cargo de "Profesor distinguido en la historia del arte" en la City University of New York (CUNY).
En 1977 organizó la exhibición "Cézanne: The Late Work" en el Museo de Arte Moderno (MoMA) junto con William Rubin.