Sus orígenes pueden ser atribuidos al heavy metal más clásico, influenciados por bandas como Judas Priest, Iron Maiden, Dio, Black Sabbath y Rush, lo que se puede apreciar claramente en su álbum debut, Sirens.

Sus primeros dos álbumes, Sirens y The Dungeons Are Calling fueron lanzados por Par Recors, una firma independiente.

1985, firmaron un contrato con Atlantic Records y lanzaron su tercer álbum, Power Of The Night.

Este disco, que fue producido por Max Norman, dio a conocer el poco convencional acercamiento a la música heavy metal, que incluía el uso liberal de teclados por parte de Jon en temas como "Fountain Of Youth" y canciones estructuradas al estilo Broadway como la usada en "Warriors".

Muchos fans de Savatage resienten la grabación del álbum y lo consideran una gran decepción.

Jon Oliva había sido retenido para escribir material para otros artistas de la firma Atlantic, como John Waite y otros músicos de pop-rock, luego la firma se retractó y exigió a Savatage grabar el material ellos mismos.

Las canciones "Gutter Ballett" y "When The Crowds Are Gone" son ejemplos de esta influencia, que continuaría con su próximo álbum.

Nuevamente, fueron hechos dos videos, "When The Crowds Are Gone" y "Gutter Ballett", también fueron ampliamente emitidos por MTV.

Aunque fue grabado un vídeo de "Jesus Saves", que fue también transmitido por televisión y atrajo nueva audiencia para Savatage.

La banda grabó su prólogo a Streets, Edge Of Thorns en 1993, y por primera vez, Savatage comenzó a disfrutar de aclamación popular, recibiendo un incremento en la emisión por radio de sus canciones y una gira mundial que les otorgó una mención internacional como "el mejor Savatage en vivo".

Alex Skolnick se unió temporalmente a Savatage en 1994 para el lanzamiento de su noveno álbum, Handful of Rain, escrito por Jon y Paul.

La canción "Chance" fue la primera de Savatage en usar el contrapunto vocal, un estilo que mantuvieron para los discos siguientes.

Mientras estaban de gira por Europa y Japón, la banda renunció a un tour por América para trabajar en su nuevo proyecto, el álbum Christmas Eve and Other Stories de la banda paralela Trans-Siberian Orchestra (TSO), que comprendía a Savatage con una gran orquesta.

Jon dijo que "ésta fue una buena jugada, porque a Nuclear Blast le encantaba la banda, e incluso conocían todas sus canciones".

Él me dijo que lo mejor sería esperar hasta enero y sentarnos a pensar en las posibilidades.'"