De 2004 a 2007, Mono firmó con Temporary Residence Limited y publicó dos álbumes más: Walking Cloud and Deep Red Sky, Flag Fluttered and the Sun Shined (2004) y You Are There (2007), con sus correspondientes giras de promoción.
En 2008, la banda se tomó un descanso que duró un año hasta su siguiente obra, Hymn to the Immortal Wind (2009).
Las actuaciones en público del grupo acostumbran a ser intensas, tanto en su manera de tocar como en su dinamismo.
En enero celebran su primer gran concierto y dos meses después se les une Tamaki en el bajo.
En noviembre editan Under the Pipal Tree, en el sello de John Zorn, con el que tocan tanto en Estados Unidos como en Suecia, siendo su primera actuación en directo en Europa.
En 2002 editan One Step More and You Die y vuelven a tocar en el SXSW, antes de comenzar su primera gran gira por USA con 22 fechas.
UU. con Pelican (con quienes tienen un split EP) y en julio giran de nuevo por Europa.
En septiembre editan en el sello estadounidense Temporary Residence un disco en colaboración con World's End Girlfriend, proyecto que opta más por la electrónica, el CD Palmless Prayer - Mass Murder Refrain, con un sonido menos post-rock y más ambiental.