En torno al año 1982 fundó, junto a Jem Finer y Peter "Spider" Stacy, la legendaria banda británica The Pogues, formación que abandonaría a principios de los 90 por problemas de salud.
Poco después, su carrera artística prosiguió junto a otra banda, The Popes, con la que grabó tres álbumes.
Desde el año 2004, The Pogues se han vuelto a juntar para tocar.
Su música, en cambio, está influenciada de alguna manera por los siguientes artistas: Sex Pistols, The Dubliners, Jimi Hendrix y Tom Waits, entre otros.
Reclamado con asiduidad por otros músicos para participar en sus álbumes, tales como Nick Cave, Christy Moore, Ron Kavanagh, la formación de Boston Dropkick Murphys, el grupo Bretón Soldat Louis, Alan Stivell, Jools Holland y The Dubliners.