Se cree que el nombre Horsens proviene de las palabras en danés antiguo hors (caballo) y næs (territorio).
Durante el siglo XII los reyes Svend III y Valdemar I acuñaron monedas en la ciudad.
En 1313 el rey Erico VI construyó un castillo al oeste de la ciudad, llamado Bygholm.
El castillo sería la residencia de un señor feudal, pero eventualmente se deterioró y fue desmantelado.
El siglo XVI fue una buena época para la ciudad, que creció fuera de las murallas medievales.
No obstante, desde mediados del siglo XVI, la crisis que experimentó el país durante las guerras contra Suecia afectó duramente a Horsens.
Hasta finales del siglo XVIII la ciudad comenzó a recuperarse, cuando mejoró la infraestructura y se establecieron algunas fábricas.
El crecimiento urbano continuó durante el siglo XX, a excepción de un pequeño retroceso en los años 1980.
Sin embargo, Horsens se ha visto siempre en competencia con la vecina Aarhus, resultando opacada frente a esta gran ciudad.
La institución educativa más grande es el Horsens VIA University College que está ofreciendo una amplia gama de enseñanzas en su mayoría técnicos.