[1]​ En 1990, el guitarrista original Dave Pritchard sucumbió a la leucemia durante la grabación del álbum Symbol of Salvation.

Jeff Duncan reemplazó a Pritchard y la banda terminó la grabación del disco para salir de gira después.

El año siguiente la banda publicó una colección de demos, canciones en vivo y otras rarezas titulada Nod to the Old School.

Anthrax grabó los álbumes Sound of White Noise, Stomp 442 y Volume 8: The Threat Is Real con Bush como cantante en la década de 1990.

De regreso a la banda, Bush grabó la voz del álbum We've Come for You All en 2003.

En 2005 se empezó a gestar la posibilidad de una reunión con los músicos que grabaron el álbum Among the Living.

Sin embargo, Belladonna abandonó la formación en 2007 y la banda decidió contratar a un nuevo cantante, Dan Nelson.

Se esperaba que Anthrax continuara con Bush, pero finalmente eligieron de nuevo a Joey Belladonna para estas presentaciones.

En diciembre de 2011, se unió a Metallica en el escenario para cantar "The Four Horsemen", canción del álbum Kill 'Em All.