En 1962 hizo una prueba en Chess Records, donde grabó su sencillo de debut, «Look at Me Now».
Grabó su primer álbum en 1964, aunque no se publicaría hasta cuatro años más tarde: "The New Folk Sound Of Terry Callier".
Callier se retiró a principios de los años ochenta y no reaparecería hasta 1998 con "TimePeace".
Este regreso, propiciado por los buscadores de rare grooves británicos, despertó el interés en su obra pretérita y le sirvió para obtener un reconocimiento que no logró en la primera etapa de su carrera.
Colaboró con, entre otros, Beth Orton, 4 Hero y Massive Attack.