[2]​ En 1089, se casó con Matilde de Toscana,[2]​ quien era 26 años mayor, con el fin de fortalecer la relación entre su familia y el papa Urbano II durante la Querella de las Investiduras.

Durante la campaña de Italia en 1090 del emperador Enrique IV, Matilde y Güelfo lucharon contra el emperador.

Dado que Matilda había transferido en secreto sus bienes a la Iglesia antes de su matrimonio, Güelfo la dejó en 1095 y, junto con su padre, cambió de bando al emperador Enrique IV, posiblemente a cambio de una promesa de suceder a su padre como duque de Baviera.

Continuó su alianza con el emperador, no volvió a casarse y murió sin hijos en 1120.

Güelfo fue sepultado en la abadía de Weingarten.