Caroline Records comenzó como una subsidiaria de Virgin Records a mediados de los años 1970.

El sello comenzó especializándose en sacar a la venta LP de jazz y rock progresivo de bajo coste.

Su primer lanzamiento fue Outside the Dream Syndicate de Toni Conrad y Faust en 1973.

Tanto las ramas del Reino Unido y de Estados Unidos de Caroline Records son subsidiarias de Caroline Music, que incluye Caroline Distribution y, cuyo dueño es EMI.

A su vez, Caroline tuvo o tiene gran cantidad de sellos subsidiarias como Astralwerks, Gyroscope, Caroline Blue Plate, Rocks the World, Scamp y Passenger.