Se graduó en Union College en Nueva York y en la Escuela de Derecho Harvard en 1915, ejerciendo la abogacía en la ciudad de Nueva York.

En 1939, el presidente Franklin D. Roosevelt lo promovió a Patterson a la Corte de Apelaciones del Segundo Circuito de los Estados Unidos, integrando el tribunal junto con los jueces Learned Hand, Augustus Hand y Thomas Walter Swan.

[5]​ El presidente Harry S. Truman lo nombró secretario de guerra en 1945.

Inicialmente, Truman estaba dispuesto a ofrecerle un asiento en la Corte Suprema, que el juez Owen J. Roberts dejó vacante, sin embargo, con la renuncia de Henry L. Stimson, Patterson quedó al frente del Departamento de Guerra.

[6]​ Tras la segunda guerra, continuó abogando por una fuerte presencia militar de Estados Unidos en el extranjero.