Sus demostraciones y puesta en escena comenzaron a hacerse famosos, lo que le permitió actuar en dos filmes de cine mudo en 1928.

Dos años después, logró hacer con facilidad la transición al cine sonoro en una producción de Pathé Frères titulada Chacun sa Chance.

Desempeñando papeles secundarios, hizo una docena de películas durante los siguientes cuatro años, donde se destacan filmes dirigidos por Maurice y Jacques Tourneur.

Actuó como héroe en el drama de guerra titulado La Bandera (1936), y fue esta segunda película, dirigida por Duvivier, la que lo estableció como una estrella importante.

[1]​ Se trasladó a Hollywood, en Estados Unidos, donde coincidió con los franceses Jean Renoir, Julien Duvivier, Charles Boyer, Jean-Pierre Aumont, etc.

Gabin sintió nostalgia, y Marlene Dietrich intentaba aliviarle con su cocina o con distracciones que le recordaban a Francia.

Entonces le ofrecieron Tampico, una película de aventuras con Gene Tierney, pero Jean Gabin la rechazó y la productora se aburrió.

Se pensó en un proyecto con Jean Renoir (bajo contrato en la RKO), en el que Jean Gabin interpretaría a un camarero en un país tropical, con Michèle Morgan como compañera (Un ladrón en la noche), pero el actor se apartó del cine y pensó en Francia, ver a varios actores estadounidenses participar en el esfuerzo bélico (Carole Lombard vendiendo bonos de guerra, Charles Laughton declamando a Shakespeare en una gira y donando los beneficios al esfuerzo bélico, Bette Davis y John Garfield dirigiendo el Hollywood Canteen, un club donde las estrellas sirven a los soldados).

Se divorció de su segunda esposa en 1939, mientras que en su estadía en Hollywood tuvo un romance con la actriz Marlene Dietrich.

Una personalidad difícil, con un ego demasiado alto, perjudicaron su carrera en Hollywood mientras trabajaba para RKO Pictures.

Más tarde dijo: «Me enfermaba la idea de tener que acabar mi vida en EE.UU.

En 1946, fue empleado por Marcel Carné como actor principal en la película Les Portes de la Nuit, pero su comportamiento egoísta lo dejó fuera nuevamente.

En 1949, en una producción de René Clément, Au-Delà Des Grilles, tuvo el protagonismo y lograron ganar un Oscar a la mejor película extranjera.

El Musée Jean Gabin ubicado en su pueblo natal, contiene información destacada de su filmografía y su carrera militar.