Formó parte de esta banda hasta que en 2003 pasó a estar inactiva por tiempo indefinido.

A principios de 2002, Lally se asoció a Shelby Cinca y Jason Hamacher, ambos exmiembros de Frodus, en un proyecto llamado The Black Sea, que posteriormente pasaría a llamarse Decahedron y publicaría un EP y un álbum antes de que Lally dejara la banda.

En noviembre de aquel mismo año publicó su segundo álbum en solitario, Nothing Is Underrated.

[3]​[4]​ En 2016, Lally formó el trío instrumental The Messthetics con el guitarrista Anthony Pirog y el baterista de Fugazi Brendan Canty.

[6]​ En 2018, Lally en compañía de Ian MacKaye (Fugazi) y Amy Farina (The Evens) presentaron una nueva banda.