Fue nombrado en honor al presidente electo en el momento de su nacimiento, John Quincy Adams.Ingresó en la Academia Militar de los Estados Unidos en West Point, Nueva York, en 1845.Aunque era uno de los mejores artilleros e ingenieros del ejército, no era muy respetado por sus hombres.A pesar del terreno pantanoso, las tropas de la Unión pudieron avanzar hacia Fort Wagner.[2] En febrero de 1864, Gillmore envió tropas a Florida bajo el mando del general Truman Seymour.Participaron en las operaciones Bermuda Hundred y desempeñaron un papel principal en la desastrosa acción de Drewry's Bluff.Gillmore se enemistó abiertamente con su superior, Benjamin F. Butler, a causa de la derrota.Cuando la guerra estaba llegando a su fin, fue reasignado al mando del Departamento del Sur por última vez y estaba al mando cuando Charleston y Fort Sumter fueron finalmente entregados a las fuerzas de la Unión.Allí se convirtió en un destacado ingeniero civil, autor de varios libros y artículos sobre materiales estructurales, incluyendo el cemento.El general Gillmore murió en Brooklyn, Nueva York, a la edad de 63 años.Su hijo y su nieto, ambos también llamados Quincy Gillmore, también fueron generales en el Ejército de los Estados Unidos.