Durante la Primera Guerra Mundial sirvió en la Zona del Canal de Panamá.

Milburn comandó la 83.ª División hasta diciembre de 1943, cuando se hizo cargo del XXI Cuerpo.

Milburn comandó al XXI Cuerpo por el resto de la Segunda Guerra Mundial en Europa como parte del Séptimo Ejército del General Alexander Patch.

Luego de ser promovido a Teniente General en 1949, Milburn sirvió como el vicecomandante del Ejército de los Estados Unidos en Europa hasta 1950.

Por dos días en diciembre de 1950, Milburn fue el comandante interino del Octavo Ejército.