Flaherty sirvió en la Armada de los Estados Unidos en la Segunda Guerra Mundial de 1942 a 1945.
Al regresar de la guerra, aceptó otro trabajo como entrenador en jefe de los New York Yankees en la extinta All-America Football Conference, ganando títulos divisionales en cada una de sus dos temporadas.
Dejó a los Yankees a mediados de 1948 y fue entrenador de los Chicago Hornets en 1949.
Entre sus innovaciones, a Flaherty se le da el crédito de haber inventado el pase pantalla en 1937.
Fue seleccionado al Salón de la Fama del Fútbol Americano Profesional en 1976 por sus contribuciones como entrenador.