En octubre de 1997 Baldvinsson hizo una prueba con el Manchester United, pero finalmente firmó por el Stabæk IF.
En 2006 tuvo que interrumpir su carrera como futbolista profesional debido a una lesión.
Se reincorporó al Breiðablik en su país natal.
Después de varias intervenciones impresivas, participó con la Selección islandesa en un partido contra España.
Ha jugado 14 partidos internacionales, así como 16 en la categoría juvenil.