Está declarado Bien Cultural de Interés Nacional.
Dio nombre a los Calders, barones de Segur.
Hasta final del siglo XV los señores Calders compartieron las rentas del castillo de Miralles con el prior del monasterio de Santa Anna de Barcelona.
El castillo de Segur fue derrocado, el año 1616, por orden del virrey de Cataluña, debido a haberse convertido en un escondrijo de bandoleros.
Actualmente la baronía pertenece a la familia Villalonga.