Su éxito comercial llegó con el lanzamiento del álbum Veni Vidi Vicious, con su canción más conocida "Hate to Say I Told You So".

Tienen un álbum recopilatorio, Your New Favourite Band (2001) y han publicado un DVD en vivo, Tussles in Brussels (2005).

En 2010 lanzaron un EP llamado «Tarred and Feathered» que incluye tres canciones de otros grupos versionadas por ellos.

I-D-I-O-T. Su segundo álbum Veni Vidi Vicious se lanzó en abril del 2000 a través de Burning Heart Records.

La banda describe a su álbum como "un guante de terciopelo con puños americanos, brutal y sofisticado al mismo tiempo".

El álbum produjo los sencillos "Hate To Say I Told You So", "Main Offender", "Die, All Right", y "Supply and Demand".

El álbum contó con la producción de Dennis Herring, The Neptunes, Jacknife Lee y Thomas Öberg.

Sin embargo, se reveló en NME que Randy Fitzsimmons es un pseudónimo registrado perteneciente a Nicholaus Arson.