O'Rourke ha lanzado múltiples discos en diferentes discográficas, explorando diferentes subgéneros de la música avant-garde, electrónica, ambient, rock, noise, drone, así como colaborando con múltiples artistas, entre los cuales destacan Derek Bailey, Loren Mazzacame Connors, Nurse With Wound, Fennesz, Órganum, Henry Kaiser y Flying Saucer Attack.
Su trabajo mejor conocido es quizás la serie de discos publicados en Drag City, que portan con un estilo más tradicional: Bad Timing (1997), Eureka (1999), Insignificance (2001), The Visitor (2009) y Simple Songs (2015).
[1] Ha producido álbumes para artistas tan variados como John Fahey, Smog, Stereolab, Faust, Tony Conrad, Joanna Newsom y Beth Orton.
O’Rourke mezcló dos discos para Wilco: Yankee Hotel Foxtrot en 2002 y A Ghost is Born en 2004, que ganó un Grammy en la categoría “mejor álbum alternativo”.
Junto al director musical Takehisa Kosugi ha tocado para la compañía de baile del coreógrafo Merce Cunningham durante cuatro años.