Al darse cuenta de que todavía podían complementarse musicalmente, los tres decidieron continuar tocando juntos.
Kushner ya conocía a los miembros del grupo, dado que estudió con Slash en la escuela secundaria y había tocado con McKagan en la banda Loaded.
El grupo hizo audiciones para buscar vocalista, entre los que participaron fueron Todd Kerns (Age of Electric), Sebastian Bach (Skid Row), Kelly Shaefer (Atheist), y Travis Meeks (Day of the New), pero ninguno quedó.
Contraband fue lanzado en junio del 2004, alcanzando el puesto #1 en la lista Billboard de álbumes, #11 en el ranking británico y #2 en el australiano.
Sacaron tres sencillos, «Slither», «Fall to Pieces» y «Dirty Little Thing».
El éxito de la banda hizo posible giras por los Estados Unidos, Europa, Japón y Australia.
Velvet Revolver participó en el Live 8 tocando las canciones «Do It For the Kids», «Fall to Pieces» y «Slither».
«Entre otras cosas, su cada vez más errático comportamiento en escena y sus problemas personales nos han forzado a movernos».
En la misma entrevista, Slash afirmó que la grabación del nuevo álbum podría empezar en el 2011.
[9] En 2011 se informó que Corey Taylor, vocalista de las bandas Slipknot y Stone Sour, podría unirse a la banda como nuevo vocalista,[10] llegando incluso a grabar algunas canciones junto al grupo, pero la idea no prosperó.