El primer lanzamiento de la banda fue un álbum en vivo solo en casete, "Naked", en 1982.

Roberts se fue a finales de 1983 para formar "Carcrash International", y la formación se conformó con Andi, McLeay, Cam Campbell (bajo) y Kevin Matthews (batería), un cambio forzado por la deportación de Ray Mondo a su Sierra Leona natal.

Tras la salida de McLeay en 1984, la banda pasó a llamarse "Andi Sex Gang & the Quick Gas Gang" para el álbum de 1985 "Blind!"

Sex Gang Children originalmente se llamaban The Panic Buttons.

El nombre "Sex Gang Children" fue tomado por Malcolm McLaren de una novela de William Burroughs como un posible nombre para una banda que él estaba creando, y que al final decidieron no ponerle ese nombre y le pusieron Bow Wow Wow (de hecho se menciona la palabra "Sex Gang Children" en su canción "Mile High Club") y fue curiosamente uno de los nombres que Boy George pensó antes de elegir Culture Club .