Randall fue el tercero de cinco hijos, incluidos James, Arthur, Esther y Phillip.

Al ser desmovilizado trabajó en una oficina de correos mientras asistía a la Wayne State University en Detroit, donde obtuvo una licenciatura en inglés en 1949.

Randall luego completó su maestría en Bibliotecología en la Universidad de Míchigan en 1951; trabajó como bibliotecario en la Lincoln University en Jefferson City, Missouri, y más tarde en el Morgan State College en Baltimore, Maryland.

En 1966, Broadside Press publicó Poema Counterpoem, escrito por Randall con Margaret Danner, fundadora de Boone House, un centro cultural negro en Detroit, donde ambos leen su trabajo.

Repleto de alusiones a la historia social e intelectual, los versículos acentúan la crianza y el crecimiento.

Otros catorce poemas aparecieron en Love You (1970), seguidos por More to Remember (1971) y After the Killing (1973).

La laureada del Poeta de Detroit Naomi Long Madgett habló sobre su amistad y colaboraciones con Randall.

Randall fue el editor de Broadside Press desde 1965 hasta 1977, cuando la vendió al Centro Conmemorativo Alexander Crummell, aunque continuó sirviendo como consultor.

[7]​ La editorial comenzó porque Randall quería establecer un derecho de autor sobre dos poemas que Jerry Moore estaba poniendo a la música, "Ballad of Birmingham" y "Dressed All in Pink".