Originalmente llamados simplemente Ulysses, la primera formación consistió en Ian Svenonius (voz y trompeta), Steve Kroner (guitarra), Steve Gamboa (bajo) y James Canty (batería).

Después de la ruptura, Svenonius, Canty y Gamboa crearon agrupaciones como Cupid Car Club y The Make-Up;[4]​ mientras que Green integró The Fucking Champs y Concentrick, proyecto solitario enfocado en la música ambiental.

[6]​ La banda se describía así misma más como un partido político[7]​ o un grito de secesión.

[5]​ Además de sus ideas de extrema izquierda, tenían una fuerte influencia del situacionismo francés (algunas plasmadas en su fanzine The Ulysses Speaks);[10]​ sumado a frenéticas actuaciones en vivo[11]​ y una visión única de la cultura y moda punk.

[11]​[12]​[13]​ "Shakedown" (en vivo) "Dig the Ulysses Mad Pad Scene" "Telepathic Love" "Diphtheria" "N.O.U.