El nombre Ajalkalaki, registrado por primera vez en las Crónicas georgianas del siglo XI, significa "una ciudad nueva".
[4] Sin embargo, los historiadores consideran que Ajalkalaki fue fundada en 1064 por Bagrat IV de Georgia.
[5] En el siglo XI se convirtió en el centro político y económico de Yavajetia.
Bajo el dominio otomano, la ciudad era conocida como Ahılkelek y en el siglo XVII existía allí una fortaleza.
Por el armisticio el gobierno armenio quitó oficialmente sus reclamaciones por los distritos de Ardahan y Ajalkalaki.
Hubo movimientos nacionales armenios locales en esta época que exigían la autonomía territorial.
En abril de 2005 se firmó un acuerdo para construir un nuevo ferrocarril que conecta Turquía con Georgia y Azerbaiyán, pasando por Ajalkalaki.