Merrit nace en Nueva Jersey, pero a los diez años su familia se muda al sur de Filadelfia.
En noviembre de 1917 publica su primera historia, Through the Dragon Glass, en All-Story Weekly.
Conoció a H. P. Lovecraft y, aunque este no lo nombra en El horro en la literatura, Merritt le rinde homenaje en varios pasajes de Dwellers in the Mirage (1932), con el personaje de Khalk’ru el Kraken del desierto del Gobi, clara referencia a Cthulhu.
La obra de Merrit es notable por sus descripciones sobre razas míticas y perdidas.
Su influencia sería tal que su nombre dio título a una revista, A. Merritt's Fantasy Magazine, cuyo primer número apareció en diciembre de 1949.