[2]​ Entre 1931 y 1961, la ciudad se llamó Voroshilovsk (en ucraniano: Ворошиловськ) en honor a Kliment Voroshílov.

Alchevsk se fundó en 1895 con el establecimiento de una fábrica de hierro y lleva el nombre del industrial ruso Aleksei Alchevski, quien fundó la Sociedad Metalúrgica Donetsk-Yuriev.

[3]​ En 1901, la estación y el asentamiento pasaron a llamarse Alchevsk en honor al empresario.

Durante la guerra civil rusa, el gobierno de Alchevsk cambió varias veces.

[3]​ Durante la Segunda Guerra Mundial, en 1942-1943, los nazis operaron una prisión de la Gestapo en la ciudad.

La ciudad alberga el club de fútbol FC Stal Alchevsk, que milita en la Persha Liha (segunda división ucraniana).