Su hermano menor fue el trompetista Marty Marsala y su esposa, la arpísta de jazz Adele Girard.
En los años 20, Marsala comenzó su carrera profesional tocando la guitarra en los clubes de Chicago junto a Ben Pollack y Wingy Manone.
Como líder de su propia banda se rodeó de músicos como Buddy Rich, Shelly Manne, Dave Tough, el guitarrista Eddie Condon, el pianista Joe Bushkin, el trompetista Max Kaminsky, su propio hermano Marty Marsala, y su esposa Adele Girard.
También escribió "And So to Sleep Again" junto Sunny Skylar, que fue grabada por Patti Page en 1951.
Arbors Records publicó Bobby Gordon Plays Joe Marsala, Lower Register in 2007 and The Bobby Gordon Quartet Featuring Adele Girard Marsala, Don't Let It End, que presentó la última sesión de Adele para Arbors en 1992.