Inició su carrera actoral a los 25 años en Retroscena (1939), luego en El hijo del corsario rojo (1941) y Los últimos filibusteros (1943) en la que también trabajó como coguionista.
Con el drama neorrealista Il cammino della speranza (1950), de nuevo producido por Rovere, Germi alcanzó por primera vez un nivel internacional.
Permaneció inactivo durante casi dos años, pero con Il ferroviere (1956) rodó una de sus obras más exitosas e intensas.
En 1970 llegó el turno de Le castagne sono buone con Gianni Morandi, que para muchos es considerada la película menos exitosa del director.
Amici miei (Amigos míos), estrenada en los cines en 1975, está dedicada a él: en los créditos iniciales se indica significativamente «Una película de Pietro Germi» y sólo «Dirigida por Mario Monicelli».