Miembro original de Weezer, tocaría desde su inicio en 1992 hasta 1997, año en que decide dejar la banda para dedicarse completamente a su proyecto paralelo The Rentals, que pasaría a ser su proyecto principal.

En 1999, después de grabar el álbum Seven More Minutes y una pequeña gira, The Rentals deja de tocar y Sharp decide iniciar otros proyectos.

Su salida de Weezer nunca fue resuelta, no se sabe con exactitud que motivo su salida, pero muchas versiones apuntan a que hubo asperezas con el vocalista Rivers Cuomo, creándose una lucha por tomar el control creativo de la banda.

Esta separación terminó en febrero de 2004 cuando Rivers y Matt tocaron juntos en un concierto en el Cal State Fullerton.

Matt iniciaría una carrera en solo durante un tiempo; durante los años 2000 y 2001, trabajó en su primer álbum, posteriormente en 2003 lanzaría un EP, Puckett's Versus the Country Boy, y en 2004 sacaría otro álbum homónimo, Matt Sharp, con la colaboración de la banda Goldenboy, durante ese año hasta 2005 estaría de gira.