Inició su carrera profesional en 1975 en Fargo, luego pasó a la banda de rock melódico Lady y en 1978 ingresó a su banda actual en reemplazo de Uli Jon Roth.
Después de Rudolf Schenker, Jabs es el guitarrista que más tiempo ha permanecido en el grupo alemán, además ha colaborado en todos los álbumes desde Lovedrive de 1979 como guitarrista líder y compositor.
Al rechazar todas las opciones, el bajista Francis Buchholz propuso a Matthias que lo conocía desde la escuela cuando el bajista lo ayudó con las matemáticas y que por ese entonces se desempeñaba en Lady.
Por aquel mismo tiempo, Michael Schenker había renunciado a UFO y se integró a las grabaciones del álbum, participando como guitarrista líder en las canciones «Another Piece of Meat», la instrumental «Coast to Coast» y la canción que da el título al disco, «Lovedrive».
Además de guitarrista, en ciertas ocasiones ha participado en la composición de algunos temas como por ejemplo «Don't Make No Promises (Your Body Can't Keep)», «Money and Fame», «Tease Me Please Me», «Nightmare Avenue», «Mysterious» y «Deep and Dark», aunque su mayor contribución en este aspecto fue en el álbum Humanity: Hour I (2007).
Sus guitarras son equipadas con pastillas Seymour Duncan, cuerdas D'Addario y plectros Dunlop.