También es conocido como Muhammad Abdul Aziz desde que se convirtió al islam en la década de los ochenta.
Jermaine también saltó a la fama por grabar varios duetos con la cantante Whitney Houston en sus primeros años como solista.
Su éxito más grande fue When the Rain Begins to Fall, cantado a dueto en 1984 con la actriz y cantante Pia Zadora.
Jermaine y sus hermanos ensayaban largas horas y actuaban en varios clubes nocturnos de clase baja antes de asegurarse un lugar en el famoso concurso Amateur Night en el Teatro Apollo en Harlem, Nueva York.
En Motown consiguió sus dos primeros éxitos en solitario: Daddy's Home (1972) y Let's Be Young Tonight (1975).
En 1982 tras conseguir el hit Let Me Tickle Your Fancy abandonó Motown, para firmar en 1983 con Arista.
Durante los años 1984 y 1985 su popularidad fue tan grande que era considerado el hermano más famoso de Michael Jackson.
Temas como "Dynamite" y "When the rain begins to fall" llamaron la atención del público joven latino por lo que fue invitado a colaborar en un dúo con la cantante venezolana de pop-rock Melissa.
[2] Fue el primer sencillo promocionado del álbum Melissa III de la mencionada vocalista.
Jackson tuvo una relación adúltera que comenzó en 1986 con Margaret Maldonado durante su matrimonio con Hazel.
En 1989, después de un viaje a Baréin, Jermaine Jackson se convirtió al Islam.
Entre otros países, ha visitado Bangladés, como parte de su trabajo para recaudar fondos y ayudar a los niños.