Previamente, había trabajado con otros artistas, como Thompson Twins, Kim Wilde, Strawberry Switchblade y Tomato City.
Williams tuvo una relación con Caroline Crawley, cantante principal de Shelleyan Orphan.
Williams nació en Versalles, Francia en abril de 1957, pero vivió sus primeros años en Belgrado hasta 1963, y más tarde se trasladó a Surrey.
Una de ellas, Proud to Fall, que fue primer sencillo del disco, fue bien acogida por la crítica, llegando a ser número uno en las listas del "Modern Rock Tracks" de los Estados Unidos y se mantuvo en esa posición por cuatro semanas consecutivas.
La otra canción en la que Williams prestó sus servicios de batería es The White Hotel.