[3]​ Waldron siguió trabajando con Ike Quebec en Nueva York en 1950 y debutó en la grabación con el saxofonista en 1952.

Waldron formó su propia banda en 1956, que integraban Idrees Sulieman (trompeta), Gigi Gryce (saxofón alto), Julian Euell (bajo), y Arthur Edgehill (batería).

Waldron apareció en varias grabaciones dirigidas por Jackie McLean,[2]​ y fue elogiado por el crítico John S. Wilson por estas actuaciones como "un pianista consistentemente interesante e inventivo, que aparentemente puede crear ideas frescas y provocativas incluso en medio de un ambiente ruidoso".

Otros líderes con los que trabajó en Prestige fueron Gene Ammons, Kenny Burrell, John Coltrane y Phil Woods.

Waldron usó a menudo sus propios arreglos y composiciones para las sesiones de Prestige, de las cuales la más famosa es "Soul Eyes".,[3]​ escrita para Coltrane, que se convirtió en un estándar muy registrado del jazz.

Albans entre las sesiones de la grabación, y en el coche en que viajaba al estudio en Hackensack.

Después de que Holiday murió, Waldron tocó con la vocalista Abbey Lincoln y su marido, el baterista Max Roach.

Las razones declaradas por Waldron para establecerse en Europa fueron su disgusto por la "feroz y despiadada competencia, sólo para conseguir trabajo" y el hecho de que los músicos negros fueran pagados menos que sus homólogos blancos en los EE.

En esa época escribió la banda sonora de la película Tokyo Blues del director japonés Haruki Kadokawa, en 1986.

Jeanne Lee toca con diversas formaciones dirigidas por Mal Waldron, por ejemplo el New York Trio con Reggie Workman y Andrew Cyrille, hasta su desaparición, en octubre de 2000.

Steve Lacy decía de su colaboración: "Me gusta trabajar con él porque me hace sonar bien, pero esto lo ha hecho con todos, ha hecho sonar bien a Billie Holiday, a Eric Dolphy, tiene un gran dominio de la armonía, del tiempo y del espacio, es el compañero ideal".

[7]​ En 1997 Waldron toca en el Jazz Middelheim de Amberes con Andrew Cyrille, Reggie Workman, Joe Hendreson, Jeanne Lee y Abbey Lincoln (un álbum grabado en estudio –"Soul Eyes"– los reunirá a todos, con la participación de Steve Coleman en algunos temas).

En el otoño de 2000 hace otra gira europea con su trío y Jackie Mc Lean.