Su éxito comercial llegó con el lanzamiento del álbum Veni Vidi Vicious, con su canción más conocida "Hate to Say I Told You So".Tienen un álbum recopilatorio, Your New Favourite Band (2001) y han publicado un DVD en vivo, Tussles in Brussels (2005).En 2010 lanzaron un EP llamado «Tarred and Feathered» que incluye tres canciones de otros grupos versionadas por ellos.I-D-I-O-T. Su segundo álbum Veni Vidi Vicious se lanzó en abril del 2000 a través de Burning Heart Records.La banda describe a su álbum como "un guante de terciopelo con puños americanos, brutal y sofisticado al mismo tiempo".El álbum produjo los sencillos "Hate To Say I Told You So", "Main Offender", "Die, All Right", y "Supply and Demand".El álbum contó con la producción de Dennis Herring, The Neptunes, Jacknife Lee y Thomas Öberg.Sin embargo, se reveló en NME que Randy Fitzsimmons es un pseudónimo registrado perteneciente a Nicholaus Arson.
The Hives presentándose en 2013 en el teatro La Cúpula, en Santiago (Chile)