Fue vicepresidente de los Estados Unidos desde 1873 hasta su muerte en 1875 bajo el mandato del presidente Ulysses S. Grant.

Después de la Guerra Civil, apoyó el programa republicano radical para la Reconstrucción.

En las elecciones de 1872, Wilson fue elegido vicepresidente como compañero de fórmula del presidente en funciones Ulysses S. Grant, que se postulaba para un segundo mandato.

La efectividad de Wilson como vicepresidente fue limitada después de sufrir un derrame cerebral debilitante en mayo del mismo año, y su salud continuó deteriorándose hasta que fue víctima de un derrame cerebral fatal mientras trabajaba en el Capitolio de los Estados Unidos a fines de 1875.

Como vicepresidente, los años de experiencia de Wilson en el Senado le permitieron desempeñarse como un presidente "altamente eficiente y aceptable".