Fue el hijo mayor de Federico I de Suabia e Inés de Babenberg.

En 1121 se casó con Judith de Baviera, miembro de la poderosa casa Guelfa.

En 1125 tras la muerte del emperador Enrique V, su tío materno, Federico II contendió para ser elegido como Rey de Romanos con el apoyo de su hermano menor Conrado, duque de Franconia y otras casas.

Pero perdió la elección frente a Lotario III,[1]​ coronado emperador en 1133 por el papa Inocencio II.

Sus hijos con Judith de Baviera (1103-1131) fueron: Con Inés de Saarbrúcken (¿-1147) fueron: