Estudió en el Berklee College of Music, donde se graduó en 1988, y luego trabajó en la banda de Lionel Hampton, actuando en Five Guys Named Moe en Broadway.
El Berklee College of Music le otorgó una licenciatura en Interpretación Musical.
Constantemente impulsa la música hacia nuevas formas, mientras se mantiene fiel a los elementos del sonido clásico.
Gross ha realizado giras por todo el mundo con el Mark Gross Quartet, Buster Williams, Philip Harper, Nat Adderley, Dave Holland, Mulgrew Miller, Nicholas Payton, Delfeayo Marsalis, Wynton Marsalis, Dizzy Gillespie, Nancy Wilson, Jimmy Heath, Dizzy Gillespie Alumni Big Band, Village Vanguard Jazz Orchestra, Tom Harrell Big Band, Duke Ellington Orchestra, Frank Foster and the Loud Minority, Charles Mingus Big Band, Freddie Hubbard, Donald Harrison, Mark Whitfield, Joe Dukes, Captain Jack McDuff, Joe Chambers, Neal Smith, Cyrus Chestnut, Regina Carter, Lionel Hampton, Stefon Harris, Walter Booker, Jimmy Cobb, Don Braden, Vincent Gardner, Lenora Zenzalai Helm o Jann Parker, entre otros.
Actuó en Five Guys Named Moe (1992-1993), basada en la música de Louis Jordan.