Desde ese mismo año fue miembro del Althing (Parlamento) en representación de Islandia del Sur.

En 1991 dejó la dirección de su partido tras perder una elección interna parcial con el entonces vicejefe del partido y alcalde de Reikiavik, Davíð Oddsson .

Ese año, cuando Oddsson formó su primer gobierno, designó a Þorsteinn como ministro de Pesca y de Justicia y Religión.

Permaneció en este puesto hasta 1999, cuando también abandonó su escaño en el Parlamento.

Se desempeñó como embajador, primero en Londres y después en Copenhague.