Los estudios actuales sostienen que en la Silla del Papa se ubicó la Baelo Claudia prerromana.Adolf Schulten identifica la Silla del Papa con el Mons Belleia, lugar donde Sertorio reunió a sus aliados lusitanos en el 80 a. C. después de cruzar el Estrecho.[8] El yacimiento, de unas doce hectáreas, se corresponde principalmente con un asentamiento urbano, castrense o minero, de tipo oppidum, que cuenta con restos que abarcan desde un Bronce indeterminado hasta una época muy tardía, tal vez paleocristiana o incluso visigótica.[9] En las primeras prospecciones del yacimiento se observaron muros de mampostería a hueso realizados con grandes bloques y con sillares toscamente tallados sobre la arenisca.También pueden verse restos de arquitectura rupestre donde los mechinales, vanos, hornacinas y escalones están tallados en la roca.
