De origen judío, Matt Rubano estudió en el prestigioso Berklee College of Music.
Ingresó en Taking Back Sunday en 2003 para ocupar el puesto de bajista que dejó Shaun Cooper.
Con Taking Back Sunday ha grabado dos álbumes, Where You Want to Be y Louder Now.
Antes de TBS, Rubano había destacado como músico tocando en bandas experimentales como Schleigho, que fusionaba acid jazz con funk, actuó en el musical Bat Boy y trabajó en el álbum de Lauryn Hill, The Miseducation of Lauryn Hill como bajista.
Sobre esa etapa de su carrera musical con la exlíder de Fugees asegura que "fue algo que durante años y años quise hacer con mi vida, y me dediqué plenamente a ello.