Originario de Chicago, fue influenciado tanto musical como filosóficamente por Gene Shaw, con quien trabajó y estudió durante algunos años.
También fue influenciado por Joseph Schwarzbaum, escritor, poeta y filósofo, así como por su hermano Ronald.
Sus influencias incluyen a Thelonious Monk, John Coltrane y Eric Dolphy.
Desde entonces, las grabaciones de Futterman han incluido a Jimmy Lyons, Richard Davis y Hal Russell.
Además, Joel Futterman ha actuado con Greg Foster, Paul Murphy, Joseph Jarman, Jay Oliver, Ike Levin y William Parker.