Mingus queda impresionado por sus prestaciones y se integran en su orquesta en 1961, en el seno de la cual McPherson continua tocando hasta 1972.
En ese momento en el grupo de Mingus, en 1961, los músicos Eric Dolphy y Ted Curson hacen saber al contrabajista que desean abandonar la orquesta para realizar su carrera en solitario.
Continúa también tocando de vez en cuando con Barry Harris, el saxo tenor George Coleman así como con Hillyer.
Con Mingus, efectúa una gira en Europa, toca al JazzFest Berlín y participa en la grabación de varios álbumes notables del contrabajista.
En 1974, McPherson participa en una gran gira en Europa del Este en el seno de un espectáculo llamado The Musical Life Of Charlie Parker.