Empezó su carrera musical como miembro de la Huddleston Jazz Band.

Masekela abandonó Sudáfrica en 1961 instalándose en Estados Unidos, donde su carrera profesional despegó.

Allí, su estilo musical, mezcla de pop y jazz africano, tuvo buena acogida, llegando a fundar su propio sello discográfico con el nombre de Chisa.

Masekela colaboró, entre otros, con Fela Kuti y Paul Simon.

Masekela también luchó contra el apartheid; de hecho, uno de sus éxitos más conocidos Bring Him Back Home (Tráiganlo de vuelta a casa), aparecido en 1987, se convirtió en la canción utilizada por Nelson Mandela durante la gira mundial que realizó tras su salida de prisión.