Tras graduarse del Juilliard School of Music en 1953,[1] se asoció con Charles Mingus y confundaron el Charles Mingus' Jazz Composers Workshop, y produjo su primer álbum Monk's Dream.
Produjo algunos clásicos de Davis, como Kind of Blue (1959), el álbum de jazz más vendido en la historia,[2] Porgy and Bess (1958), Sketches of Spain (1960) y Someday My Prince Will Come (1961).
Después, Davis se aventuraría con un nuevo estilo y se fusionaría con la música electrónica, álbumes como In a Silent Way (1969), Bitches Brew (1970), o A Tribute to Jack Johnson (1971), trabajos de gran importancia gracias a las innovadoras técnicas de Macero para mezclar y grabar, inspiradas en parte por el compositor de avant-garde Edgar Varèse, uno de los pioneros en la música electrónica, y con quien Macero había colaborado en Juilliard.
[1] Durante su estancia en Columbia, también produjo álbumes para artistas como Thelonious Monk, Dave Brubeck, J. J. Johnson, Johnny Mathis, Mahalia Jackson y Simon and Garfunkel,[1] incluyendo la banda sonora de El Graduado, álbum que contiene el éxito "Mrs.Robinson".
Aunque Macero estaba semijubilado por unos cuantos años, siempre estuvo activo en la música.