Los exintegrantes de Trips Kenji Ueda (bajo) y Shinichiro Sato (batería) se unieron con Yoshiaki Manabe (guitarra), que había tocado previamente para la banda de visual-kei llamada Persia, y Sawao Yamanaka (voz).
Ellos hicieron performances en directo durante casi 3 años antes de que firmaran para Captain Records como the pillows.
En 1991, se pasaron a la compañía discográfica de Pony Canyon, donde sacaron su primer álbum, Moon Gold.
En 1992, al poco tiempo de que fuera grabado su segundo álbum, White Incarnation, Ueda dejó la banda.
Lostman, el cual fue seguido por una serie de hit singles que los terminaron catapultando a la fama.
En 1999, The pillows se acercó al estudio GAINAX, estudio de Anime famoso por sus series Evangelion y Nadia, quienes querían licenciar sus tres álbumes más recientes para una serie experimental de Anime, FLCL.
En ella, se formaron algunas bandas en su compañía discográfica como The Stereo Future, siendo Yoshiaki Manabe el productor.
The pillows publicaron el álbum de Penalty Life en noviembre del 2003 y después Good Dreams al año siguiente.
El álbum My Foot fue sacado el 12 de enero de 2006, el cual más adelante fue lanzado en América, seguido por los exitosos singles "Nonfiction" y "The Third Eye", el álbum se vendió bien, y, debido al sorpresivo éxito, la banda optó por lanzar un tercer single, "Gazelle City".