Nació en Petersburg, Indiana, y se crio en Evansville.
Se graduó de abogado y más tarde sirvió como general unionista en la guerra civil estadounidense.
Más tarde fue ministro plenipotenciario en Rusia (1880-1881) y España (1883-1895).
En 1892 y 1893 sirvió como jefe del Departamento de Estado de los Estados Unidos, bajo el mandato del presidente Benjamin Harrison.
También es el bisabuelo del teólogo católico y cardenal Avery Dulles.