McCone nació en San Francisco, California y se graduó en la Universidad de Berkeley en 1922 con un B.S.
Fue un destacado empresario industrial y se desempeñó también como funcionario público.
Jugó un papel clave en la crisis de los misiles, a pesar de ser el único republicano en el Consejo Nacional de Seguridad.
En su telegrama conocido como "de la luna de miel" McCone sostiene que la CIA debía mantenerse alerta sobre la posibilidad de que la Unión Soviética pudiera instalar armas nucleares en Cuba, aun cuando los informes decían lo contrario, lo que finalmente probó ser correcto.
McCone renunció a la CIA en abril de 1965 debido a su mala relación con el presidente Lyndon B. Johnson.