Nacido en Filadelfia (Pensilvania), se traslada a Providence (Rhode Island) donde transcurre parte de su infancia.

Trabajará también con un gran número de músicos de free jazz y post bop, entre los que destacan Paul Bley, Martial Solal, Gary Peacock, Albert Ayler, Pharoah Sanders y Don Cherry.

Después, en 1968, integra otro trío famoso, junto a Keith Jarrett y Charlie Haden, con quienes permanece hasta 1977, grabando numerosos discos.

En los años 1990 formó una banda eléctrica, que incluía a saxofonistas como Joshua Redman, Chris Cheek o Chris Potter, y guitarras como Kurt Rosenwinkel.

En 2006, fundó la Paul Motian Band, con la que actuaba frecuentemente en el prestigioso club Village Vanguard neoyorquino, donde se le pudo ver pocas semanas antes de su muerte.