En 1938, organizó el primer concierto "From Spirituals to Swing" en Carnegie Hall, presentando un programa de blues, jazz y góspel, con artistas como Ida Cox, Big Joe Turner, Albert Ammons, Meade Lux Lewis, Sister Rosetta Tharpe, la orquesta Count Basie, Sidney Bechet y Big Bill Broonzy, que sustituiría la vacante del recién asesinado Robert Johnson.
Tras servir como soldado en la Segunda Guerra Mundial, Hammond se sentiría atraído por la escena del bebop jazz a mediados de los 40.
En 1961, oiría a un joven Bob Dylan tocar la armónica en una sesión para Carolyn Hester, contratándolo de inmeditado para Columbia.
Sería el encargado de producir los primeros álbumes del artista, tal que Bob Dylan o The Freewheelin' Bob Dylan, así como temas clásicos del artista como "Blowin' in the Wind" o "A Hard Rain's a-Gonna Fall".
En 1983, ficharía para Columbia a Stevie Ray Vaughan, y fue acreditado como productor ejecutivo de su primer trabajo discográfico.
Hammond recibió un Premio Grammy Trustees en 1971 en reconocimiento a su carrera artística, y en 1986 fue inducido en el Rock and Roll Hall of Fame.