Los líderes de la banda, Greg Roberts y Stephen Patterson, se conocieron en la universidad en el 2004.
Álex Even, Adam Russell y Greg habían tocado inicialmente en la banda Texas Chainsaw Mass Choir.
El sexto miembro, Jamie Levinson, había crecido en la misma calle que Roberts en Webster Groves, Misuri.
Tanto Roberts como Levinson tocaron en una banda ska (llamada The Hubcaps) mientras estaban en la secundaria.
Han hecho giras con bandas tales como The Walkmen, Richard Swift, y Spoon.