Desde muy joven se interesó en la música, participando como trompetista en varias Bandas Municipales y en la Orquesta de Johnny Torruella.
Por los siguientes 4 años se destacó en importantes grabaciones como "Fuego en el 23", "Algo de Locura", "Navidad Criolla", "Desde Puerto Rico a Nueva York" y "Sonora Ponceña".
Con esta orquesta tuvo la oportunidad de viajar no sólo en su natal Puerto Rico, sino que también en Estados Unidos y Latinoamérica.
Durante la década de los 70, Joe Rodríguez logró crear un sonido distintivo con su orquesta, que alcanzó gran popularidad.
También Joe Rodríguez reclutó a otros soneros que luego alcanzarían la fama tales como Héctor Tricoche, Luisito Carrión y Wito Colón.