Fue seleccionado en la segunda ronda del draft de 1992 por los Oakland Athletics, equipo con el que debutó en las mayores en 1995, y posteriormente jugó con los New York Yankees, Colorado Rockies y Cleveland Indians.
Debutó en Grandes Ligas en 1995, y formó parte de la reserva del equipo hasta que fue nombrado primera base titular luego del traspaso de Mark McGwire a los Cardenales de San Luis en 1997.
[2] En 2001, tuvo una temporada muy similar a la anterior, con promedio de .342, 38 jonrones y 120 impulsadas, pero quedó en segundo lugar en las votaciones al Jugador Más Valioso por detrás de Ichiro Suzuki,[3] aunque ganó el Bate de Plata como primera base.
En el 2003 Jason Giambi, mientras jugaba para los Yankees, admitió ante un gran jurado federal haber usado esteroides y hormonas de crecimiento humano en sus últimas tres temporadas, según reveló hoy el diario The San Francisco Chronicle.
En 2007, solo jugó en 83 encuentros debido a una lesión, por lo que solo registró promedio de .236 con 14 jonrones y 39 impulsadas.
El 4 de noviembre, luego que el equipo declinara su opción para el 2009, se convirtió en agente libre.