Sin embargo, es probablemente más conocido por su papel en la película El Padrino como el cantante Johnny Fontane, un misterioso personaje, supuestamente basado en la carrera musical de Frank Sinatra, pero con similitudes a la propia carrera de Martino".

Al Martino, como muchos inmigrantes italianos, se alistó en el Ejército de los Estados Unidos durante la Segunda Guerra Mundial, estuvo en los Marines durante la Campaña del Pacífico, y fue herido en la invasión de Iwo Jima.

En 1952 Al Martino debutó con una balada llamada Here in my Heart grabada como sencillo, con la que se convirtió en el primer artista estadounidense en llegar al tope de los Charts en Gran Bretaña.

Después de esta grabación, Martino grabó con otro sello más importante, Capitol Records, con el que grabó tres temas más: Take My Heart, Rachel y When You´re Mine en el año de 1953.

Tras este suceso, viajó a Inglaterra, en donde vivió varios años y fue muy popular.

Actuó en el London Palladium y continuó grabando en ese lugar, para no exponer su trabajo si regresaba a Estados Unidos.

Estaba la versión de "Here in My Heart" que también apareció como sencillo y tímidamente se colocó en las listas.

Gracias a sus presentaciones en la televisión, Martino regresó a la fama en 1963 con "I Love You Because", que fue presentada como un nuevo estilo de voz, ya que previamente había sido grabada con mucho éxito por el cantante/compositor honky tonk Leon Prayne.

Estuvo en 1964 en las listas en cuatro ocasiones con: "Always Together", "I Love You More and More Every Day" (Pop Top 10), "Tears and Roses" (Pop Top 20); y "We Could".

Tuvo dos éxitos mayores en música ligera que fueron: "Think I'll Go Home and Cry Myself to Sleep" y "Wiederseh'n", y en 1967 llegó al tope de lista dos veces con el estilo folk: "Mary in the Morning" y la composición de Bob Crewe "More Than the Eye Can See".

Después, su carrera fue descendiendo lentamente y sus álbumes dejaron de aparecer en el Top 100.

Cuando la Paramount decide realizar la versión cinematográfica de este libro, McGuire menciona que el personaje de Johnny Fontane -- un pequeño ídolo pop que necesita del apoyo del Padrino para resucitar su carrera -- , había llamado la atención a Martino.

Regresó al Top 20 por primera vez desde "Spanish Eyes" y en 1975 con "To teh Door of the Sun (Alle Porte del Sole), que es una traducción al inglés de una popular canción italiana.