Groucutt comenzó su carrera musical a los 15 años como Rikki Storm en el grupo Rikki Storm and the Falcons.

Su distintiva voz fue utilizada en canciones del grupo como "Nightrider", "Poker", "Above the Clouds" y "The Diary of Horace Wimp".

El primer álbum de la Electric Light Orchestra en incorporar a Kelly como bajista y vocalista fue Face the Music, contribuyendo también a los posteriores álbumes del grupo, entre los que figuran A New World Record (1976), Out of the Blue (1977), Discovery (1979), Xanadu (1980) y Time (1981).

En 1982, Groucutt publicó Kelly, su primer álbum en solitario, el cual incluía la participación de los miembros de la ELO Bev Bevan, Richard Tandy, Mik Kaminski y el arreglista y conductor Louis Clark.

Tras su abandono, tomó parte en proyectos paralelos a la Electric Light Orchestra como OrKestra, ELO Part 2 y The Orchestra, llegando a salir de gira a nivel mundial con el último grupo.