La banda se creó originalmente con gran parte de los miembros de otra banda: Goodbye Mr.

Aunque Shirley Manson no era un miembro muy activo del grupo, ella es la más conocida de todos los integrantes, puesto que la ayudó a lanzar su carrera como vocalista de la banda Garbage.

Inicialmente, ella solo tocaba el teclado e hizo algunos arreglos vocales, pero posteriormente se le dio el rol de vocalista principal.

Angelfish tuvo un pequeño hit con el sencillo "Suffocate Me" el cual captó la atención del productor Steve Marker cuando el video salió al aire en el show 120 Minutes de MTV, a tempranas horas de la mañana, mientras Steve Marker se encontraba trabajando en un proyecto con el productor de Nirvana, Butch Vig.

Poco después Vig le propuso a Manson que se uniese a su proyecto (la banda que se llamaría Garbage) lo que condujo a la ruptura de Angelfish.