Antes de que Remy Zero lanzará su primer álbum, Radiohead escuchó su demo y los invitó para que formarán parte de su gira por los Estados Unidos para promocionar The Bends.
Su primer álbum se llamó Remy Zero, fue grabado a partir de esta experiencia; recibió poco reconocimiento y ventas.
El siguiente álbum, Villa Elaine, hizo que fueran elogiados como la próxima "banda grande".
Villa Elaine fue grabado mientras la banda vivía en un apartamento con el mismo nombre en Hollywood.
En octubre de 2008, el mensaje fue retirado, y ahora simplemente dice que se separaron en 2003.