Era hijo de Abiel Holmes (1763-1837), un clérigo calvinista y ávido historiador que escribió los Anales de América y poesías, y su segunda mujer, Sarah Wendell, hija de una importante familia de Nueva York.

Estudió en la Phillips Academy en Andover, Massachusetts, y en el Harvard College.

Ganó fama con su poema «Old Ironsides» sobre la fragata decimonónica USS Constitution, cuyo destino era el desguace.

El poema tuvo tanta fama que se decidió convertir a la fragata en un monumento en vez de desguazarla.

[1]​ En 1842, publicó el ensayo La homeopatía y sus delirios afines (Homeopathy and Its Kindred Delusions) en el que denunció esta práctica pseudocientífica.