[1]​ La banda nació en 1979, fundada por John Norwood Fisher (bajo), su hermano Phillip "Fish" Fisher (batería), Angelo Moore quien a veces usa el sobrenombre "Dr. Madd Vibe" (vocales, saxofón, theremin), Kendall Jones (guitarra), "Dirty" Walter A. Kibby II (vocales, trompeta) y Christopher Dowd, quien a veces usa el pseudónimo "Charlie Down" (teclados, trombón, vocales).

En 1983 firman contrato con Columbia Records después de que el productor David Kahne presenciara uno de sus shows.

Para 1985 editan su EP homónimo y un año después el álbum In Your Face.

[3]​ Desde el comienzo la banda ganó una sólida base de fanes y su fama aumenta gracias a sus enérgicos shows y sentido de humor mezclado con comentarios sociales.

Sus miembros fundadores John Norwood Fisher, Angelo Moore, y Walter Kibby continúan en la banda.