Alejandro la pobló con 7000 macedonios, 3000 mercenarios y miles de nativos,[3]​ o con 7000 nativos y 3000 no combatientes y una cantidad indetermidada de mercenarios,[4]​ en marzo de 329 a. C. Construyó fuertes a los pies del Hindú Kush, que remplazaron a los que levantó en el mismo lugar Ciro II (c. 500 a. C.) Alejandría del Cáucaso fue una de las capitales del Reino Grecobactriano (180 a. C.-10).

En la literatura budista, el monje budista yona,[5]​ Mahadhammarakkhita (sánscrito Mahadharmaraksita), se dice que vino de “Alasandra” (se cree que podría referirse a Alejandría del Cáucaso) con 30 000 monjes para la ceremonia fundacional del Maha Thupa (gran estupa) de Anuradhapura, en Sri Lanka:

La divinidad de la ciudad parece haber sido Zeus, como sugiere una moneda de plata del rey grecobactriano Eucrátides I (170-145 a. C.), con la siguiente leyenda, que menciona a Alejandría/ Kapisa: La ciudad estaba amurallada con ladrillos, y reforzada con torres.

Begram (Kapisa) se convirtió en la capital de verano del Imperio kushán en el siglo I.

Como otros tantos sitios históricos de Afganistán, Begram ha sido saqueado durante los años que siguieron al derrocamiento del régimen comunista.