[1]​ Nacido en Lemberg, imperio Austrohúngaro (hoy Lviv, Ucrania), Avi-Yonah se trasladó a la Tierra de Israel con sus padres en 1919 durante la Tercera Aliyá.

Primero estudió en la Escuela Hebrea Rehaviah Jerusalén, luego se trasladó a Inglaterra y estudió historia y arqueología en la Universidad de Londres.

[2]​ Sus primeras excavaciones arqueológicas fueron realizadas en Tel él-'Ajjul, al borde Gaza, y a Ophel Jerusalén.

[3]​ Participó en las primeras excavaciones que precedieron a las de Masada, y dirigió otra excavación en Cesarea Marítima, donde descubrió una antigua sinagoga.

Fue galardonado con el Premio Bialik en 1955 por su libro Antiquities of our land.