Fue vicepresidente de los Estados Unidos desde 1913 hasta 1921 bajo el mandato del presidente Woodrow Wilson.

Debido a su desagrado personal por Marshall, los asesores de Wilson y su esposa Edith intentaron mantenerlo desinformado sobre la condición del presidente para evitar que asumiera poderes y deberes presidenciales.

Muchas personas, incluidos funcionarios del gabinete y líderes del Congreso, instaron a Marshall a convertirse en presidente interino, pero él se negó a asumir por la fuerza los poderes de Wilson, ya que no quería establecer un estándar para hacerlo.

Marshall terminó su mandato como el primer vicepresidente desde Daniel D. Tompkins, casi un siglo antes, en cumplir dos mandatos completos, y el primer vicepresidente reelegido, desde John C. Calhoun.

Marshall era conocido por su ingenio y sentido del humor.