Nació en Chicago, Illinois, pero pasó su infancia en Tennessee y más tarde se mudó al Bronx, donde cursó sus estudios secundarios.

Tras estudiar por un año en la Lincoln University en Pensilvania, se mudó a Londres para probar nuevos horizontes en donde publicó su primera novela, The Vulture, que fue bien recibida.

La banda mexicana Molotov hizo una versión de su canción The Revolution Will Not Be Televised.

A pesar de sacar algunos álbumes, su éxito más grande llegó en 1978 con la canción «The Bottle».

Scott-Heron es a menudo visto como uno de los padres fundadores del rap.