Los abrigos rocosos se forman cuando un estrato de roca como arenisca que es resistente a la erosión y al desgaste por el tiempo ha formado un acantilado, pero un estrato más blando, más susceptible a la erosión y a los estragos de la climatología, queda justo debajo y de esta manera corta el acantilado.
Más rara vez se encuentra en otro tipo de rocas como las volcánicas (por ejemplo, basaltos).
En ellos los seres humanos del paleolítico realizaban pinturas parietales La ocupación de un abrigo rocoso puede durar varios miles de años, durante los cuales van usándolo tribus diferentes con fines distintos.
Excavando estos sedimentos que se fueron superponiendo unos sobre otros, los arqueólogos sacan a la luz los rastros del pasado, establecen una estratigrafía, y los interpretan, intentando reconstruir la historia del abrigo.
En zonas montañosas este tipo de refugio puede también ser importante para los montañeros.