Su término municipal está atravesado por la frontera entre las regiones histórico-naturales de Bohemia y Moravia, así como por el río Jihlava.

La primera mención escrita, de 1233, hace referencia a un asentamiento eslavo en un vado del río Jihlava.

Además, en 1345, se fundó en Jihlava el Tribunal Superior de Minas, con jurisdicción sobre toda la Corona Checa.

En el s. XX, la acentuación del conflicto germano-checo traería consecuencias importantes para una Jihlava de mayoría alemana.

La ciudad no fue anexionada directamente al III Reich, como otras regiones Sudetes, quedando dentro del Protectorado de Bohemia y Moravia, pero las escuelas checas fueron clausuradas progresivamente.

Dicha división administrativa fue abolida en 1960, siendo englobada Jihlava en la nueva región de Moravia Meridional, con capital en Brno.