La tribu dacia de los albocenses se asentó en esta zona en el siglo ii d. C.[2] Hay restos de una antigua fortaleza romana llamada Contra Margum, frente a Margum, una fortaleza al otro lado del Danubio.
Glad fue derrotado por los húngaros, y la zona fue incluida en el Reino de Hungría.
El déspota serbio Lazar Branković tomó el control de la ciudad en 1457, pero al año siguiente volvió a estar bajo el control del Reino de Hungría.
Durante el dominio turco (siglos XVI-XVII), Kovin estaba poblada principalmente por serbios étnicos.
[4] Esta ciudad tuvo un papel importante en el estallido de la Primera Guerra Mundial.
[5] En 1918, Kovin se convirtió en parte del Reino de los serbios, croatas y eslovenos (renombrado como Yugoslavia en 1929).