Abrió como cementerio rural en el Bronx en 1863, en lo que entonces era el sureño Condado de Westchester, en una zona que pasó a formar parte de la ciudad de Nueva York en 1874.
Está construido sobre unas colinas ondulantes y sus calles están alineadas de árboles.
Cuenta con monumentos conmemorativos únicos diseñados por McKim Mead & White, John Russell Pope, James Gamble Rogers, Cass Gilbert, Carrère and Hastings, Sir Edwin Lutyens, Beatrix Jones Farrand y John LaFarge.
Entre las personas enterradas más conocidas están Countee Cullen, la periodista Nellie Bly y el novelista Herman Melville, el percusionista Tito Puente, los músicos Celia Cruz, Irving Berlin, Miles Davis, Duke Ellington, W.C.
Handy y Max Roach, la pareja de magos Alexander Herrmann y Adelaide Herrmann, junto con empresarios como el magnate naviero Archibald Gracie y el fundador de grandes almacenes Rowland Hussey Macy.