Alrededor del castillo, la ciudad tiene unos 20 000 habitantes, y posee varios edificios destacables, restaurados, de la época otomana.
La ciudad vieja se halla sobre una meseta triangular, con el castillo como una estrecha prolongación hacia el sur, dominando el entorno.
Al Karak ha sido habitada desde la Edad del Hierro, y fue una ciudad importante para los moabitas, que la llamaban Qir de Moab.
Isaías vuelve a mencionarla como Qer Harreseth en 16:7, como formando parte del Imperio asirio.
Su mayor importancia, sin embargo, se alcanzó durante las Cruzadas y bajo la dinastía ayubí, iniciada con Saladino.
Este quería dominar la región, rompió la tregua con los árabes y se ganó muy mala fama porque en su castillo de Kerak se torturaba a los prisioneros, hasta el punto de que Saladino prometió matarlo con sus propias manos.
Durante el periodo otomano, juega un importante papel por su situación estratégica en el cruce de caminos entre Arabia, Egipto y la Gran Siria.