La historia se centra en Tevye, un lechero del pueblo de Anatevka, que intenta mantener su religión judía, tradiciones religiosas y culturales a medida que las influencias externas invaden la vida de su familia.
Narra la historia de un pueblo judío asentado en Rusia a principios del siglo XX.
Tevye es un lechero que tiene cinco hijas, es testigo de cómo el mundo que le rodea va cambiando y derrumbándose; su situación y la del pueblo es como la de un violinista en el tejado.
Su hija mayor se niega a casarse con el marido que él le había elegido, un día llega un joven idealista llamado Perchik que congenia con Tevye.
Perchik trata de difundir una idea que hará cambiar las tradiciones y la política del país.