Se graduó en 1962, dejando las canchas, y dedicándose de pleno a ser entrenador.
Su formación militar y su carácter hicieron mella en los Hoosiers de aquella época, consiguiendo alcanzar la Final Four en su segunda temporada, perdiendo entonces con UCLA.
En 1981 repetirían título, contando entre sus jugadores con la futura estrella Isiah Thomas.En 1984 fue nombrado seleccionador nacional de los Estados Unidos para la Olimpiada de Los Ángeles 1984, donde consiguió el oro ante la selección española, con jugadores tan destacados como Michael Jordan, Patrick Ewing o Chris Mullin.
Si en algo destacó Bobby Knight, además de en sus éxitos deportivos, fue en su fuerte carácter, que le jugó a menudo malas pasadas.
Además del incidente que le costó el puesto de entrenador en Indiana, son famosas sus imágenes arrojando una silla al medio de la cancha al no estar de acuerdo con una decisión arbitral, o era frecuente verle zarandear a sus propios jugadores en pleno partido.