Su familia, los Babenberg habían gobernado la Marca de Austria desde su bisabuelo Leopoldo I en 976.

Posteriormente, fue depuesto por el rey, que entregó su estado a su vasallo Bratislao II de Bohemia.

Finalmente, consiguió recuperar su posición, mientras que Bratislao fue elevado a un Rey de Bohemia en 1085.

Leopoldo perdió algunos territorios en Moravia meridional al norte del río Thaya, gobernados por el príncipe Luitpold de Znojmo, que, por otra parte, era yerno suyo.

[2]​ En 1065 Leopoldo se casó con Ida (1055-1101), una condesa bávara de Formbach (Vornbach).