Nacido en Lindesberg, Suecia, sus padres eran Axel Taube y Johanna Matilda Törnsten.

Primo de Evert Taube (1890–1976)[1]​ Taube estudió pintura en escuelas técnicas de Malmö y Estocolmo entre 1894 y 1897, en la Real Academia de Bellas Artes de Dinamarca desde 1897 a 1901, y en Dresde entre 1902 y 1905.

En la década de 1890 participó en una exposición con jóvenes artistas en Copenhague, y formó parte del grupo Skånska konstnärslaget formando parte de otras exposiciones en Ängelholm, Malmö, Estocolmo y Lund entre 1905 y 1913, así como en la muestra Lundautställningen 1907.

Mathias Taube falleció de manera súbita en 1934 en Estocolmo, mientras caminaba,[2]​ Fue enterrado en el Cementerio Norra begravningsplatsen de dicha ciudad.

La pareja tuvo una hija actriz, Aino Taube (1912–1990).