Aunque tuvo éxito como director de orquesta, Harris es recordado hoy en día por sus grabaciones como vocalista, su trabajo como actor de voz en producciones de dibujos animados, y como pionero en la sitcom radiofónica, primero con Jack Benny, y después en una serie en la que trabajaba junto a su segunda esposa, la actriz y cantante Alice Faye.

Se crio en Nashville, Tennessee, y él mismo se consideraba como un habitante del Sur de los Estados Unidos (su canción más conocida era "That's What I Like About the South").

[2]​ En 1936 Harris trabajó como director musical de The Jell-O Show Starring Jack Benny (posteriormente llamado The Jack Benny Program), cantando y liderando su banda y, más adelante, uniéndose al reparto de Benny interpretando a Phil Harris, un hipster, bebedor, sureño, cuyo buen natural superaba a su ego.

Para ambos era su segunda boda (Faye había estado casada brevemente con el cantante y actor Tony Martin).

En 1942 Harris y su banda se alistaron en la Armada de los Estados Unidos, sirviendo durante toda la Segunda Guerra Mundial.

Salió del terreno de 20th Century Fox tras suceder que el directivo del estudio Darryl F. Zanuck eliminó escenas de Faye en Fallen Angel (1945) para promover a su protegida, Linda Darnell.

Originalmente vehículo para grandes bandas, incluyendo la de Harris, el show cambió enteramente cuando la pareja se convirtió en la estrella del mismo.

Las jóvenes actrices Jeanine Roos y Anne Whitfield interpretaban a las dos hijas de Harris.

Hizo numerosas actuaciones como artista invitado en programas televisivos en las décadas de 1960 y 1970, incluyendo Kraft Music Hall, The Dean Martin Show, F Troop, The Hollywood Palace y otros programas musicales de variedades.

También participó en la producción de la ABC The American Sportsman, presentada por Grits Gresham, y posteriormente por Curt Gowdy.

En el filme también cantaba junto a Louis Prima "I Wanna Be Like You," haciendo una destacada interpretación de scat.