La primera mención documental que hace referencia a Otepää data del 1116, año en el que se construyó una fortaleza en forma de cabeza de oso en la colina.
En 1217, los estonios en alianza con los rusos recuperaron la plaza, para finalmente ser de nuevo ocupada por los germanos en 1224, convirtiendo Otepää en el centro del episcopado de Tartu, y erigiendo un nuevo castillo sobre las ruinas del antiguo.
Tras los alemanes las potencias que iban surgiendo en cada época, Dinamarca, Suecia, se fueron sucediendo en la ocupación de la zona.
La Gran guerra del norte también devastó la zona, al igual que la conquista rusa en 1702.
Otepää tiene una larga tradición en materia de educación ya que fue aquí donde se abrió en 1686 la primera escuela pública.
El castillo del cual se conservan hoy sus ruinas, data de 1224, ya que el anterior construido con madera no resistió el periodo de luchas que desataron los cruzados germanos al conquistar la zona.
El castillo fue destruido con toda seguridad en 1396, durante las luchas en las que se ensalzaron los caballeros de la Orden y el obispado.