Estuvo a cargo de la unidad militar del ejército que atacó, y después ocupó, la ciudad de Vukovar durante la batalla de Vukovar en 1991.
Mrkšić fue acusado en 1995, junto con Miroslav Radić, Veselin Šljivančanin y Slavko Dokmanović, por el Tribunal Penal Internacional para la ex Yugoslavia (ICTY).
Se entregó voluntariamente al Tribunal el 15 de mayo de 2002, siendo trasladado a dependencias del mismo dicho día.
El juicio contra él comenzó en octubre de 2005 y finalizó en 2007, cuando el 27 de septiembre fue hallado culpable de contribuir e incitar a la masacre de Vukovar con el asesinato de civiles y prisioneros, contribuir e incitar a la tortura y al cruel tratamiento que se les dio.
Fue sentenciado a 20 años de prisión.