Recibió su primera educación de los Marist Brothers en Athlone, y más adelante atendió el Summerhill College, Sligo.
En 1907 John McCormack tuvo su primer papel importante en Covent Garden, como Turidu en Cavalleria Rusticana de Pietro Mascagni, siendo su tenor principal más joven hasta la fecha.
Su actividad en grabación también lo hizo una de las primeras estrellas del nuevo medio.
Su serie más exitosa fue realizada por Victor Talking Machine Company en las décadas 1910 y 1920.
McCormack mostró abiertamente su opinión política y le dio transcendencia en su trabajo artístico.
Su grabación de The Wearing of the Green, una canción sobre la rebelión irlandesa en 1798, promocionaba el movimiento para el Irish Home Rule Bill y agudizó el alejamiento nacionalista entre Irlanda e Inglaterra.
En junio del 1918, donó $ 11.458 para los esfuerzos de los Estados Unidos en la Primera Guerra Mundial.
Enfermo con enfisema, compró una casa cerca del mar, "Glena", Booterstown, Dublín donde vivió hasta su muerte en 1945, cantando ocasionalmente en conciertos beneficiarios.