Su fama proviene de muchas tradiciones y creencias que hacen hincapié en su antigüedad y el hecho de que supuestamente contiene los restos del Templo de Jerusalén.

Históricamente, reunió no sólo a los miembros de las comunidades locales sino también a judíos del resto de Túnez y la vecina Libia.

Al igual que otras sinagogas aisladas, situadas fuera de las ciudades, y objeto de peregrinación dispersas por el Magreb, la Ghriba está situada en el campo, a poco más de un kilómetro del pueblo más cercano, Hara Saghira (nombre oficial moderno: Er Riadh).

Según la tradición local, la Ghriba fue fundada por sacerdotes Cohen procedentes de Jerusalén.

El pueblo de Hara Saghira (en árabe: "pequeño barrio") alberga hoy una comunidad judía con varios cientos de personas.