En sus primeros años se influenció por la música de Motown, el jazz, el glam rock de David Bowie, Roxy Music y Alice Cooper, y Led Zeppelin.
En 1979, mientras estaba en Magazine, Steve Strange lo llama a él, junto a sus compañeros de banda, John McGeoch y Dave Formula, para formar parte del proyecto musical que fundó, Visage, conformado también por los ex-Rich Kids, Midge Ure y Rusty Egan, y el teclista de Ultravox, Billy Currie.
Para el siguiente álbum, The Anvil, solo se limita a ser un músico invitado.
Separado Magazine, se va a Londres, donde conoce a Nick Cave, un australiano que había formado parte del célebre grupo The Birthday Party, con quien forma Nick Cave and the Bad Seeds.
Lanzó su primer trabajo en solitario en Mute Records en 1988, "Moss Side Story".