Los 2 integrantes se conocieron realmente en un concierto de Sonic Youth, aunque ambos hacen bromas respecto a la fundación del grupo, originalmente llamado Death from Above por el título que aparece en su primer EP.
El dúo tuvo que modificar su nombre a raíz de una disputa legal con la discográfica Death from Above, ya que dicho nombre fue utilizado por el cantante James Murphy.
[3] Más tarde Keeler explicaría a otros medios como The New Music que la separación fue debida además a discrepancias con su compañero Grainger sobre el estilo musical que debería adoptar el grupo en posteriores álbumes.
Pasados 5 años desde la disolución del dúo, Sebastien Grainger y Jesse F. Keeler, recibieron una oferta para participar en el Festival de Coachella del año 2011, por lo que Grainger propondría la reunión de la banda, propuesta que Keeler aceptó.
Dado que llevaban bastante tiempo sin tocar, antes de su presentación en el Festival de Coachella, decidieron dar un show sorpresa en el Beauty Bar Austin, mismo en el que los asistentes provocaron destrozos dentro y fuera del lugar, provocando la interrupción y casi cancelación del show a pocos minutos de su comienzo, que fue reanudado minutos después.