Su madre era una superviviente del Holocausto que había luchado contra los nazis con los partisanos durante la Segunda Guerra Mundial.

Estuvo activo en el movimiento juvenil sionista socialista Hanoar Haoved Vehalomed y se unió a un grupo de la Brigada Nahal llamado "Yalón", nombre que más tarde adoptaría el mismo.

[1]​ Durante la Guerra del Líbano de 1982, Yalón se unió a Sayeret Matkal como comandante.

[1]​ Yalón se marchó al Reino Unido para estudiar en el Colegio Mayor de Camberley del Ejército Británico.

En 1995, Yalón fue ascendido a Mayor General y designado jefe de la Inteligencia Militar.

Bajo su mando, el ejército israelí llevó a cabo la Operación Escudo Defensivo.

[7]​[6]​[8]​ Tras dejar su cargo como Jefe del Estado Mayor, Yalón pasó algún tiempo en el think tank Washington Institute for Near East Policy y se convirtió en miembro distinguido del Instituto Adelson de Estudios Estratégicos en el Centro Shalom.

Yalón también ocupó el cargo de presidente del Centro para la Identidad y la Cultura Judía en Beit Morashá, Jerusalén.

[9]​ Obtuvo el octavo lugar en la lista del partido,[10]​ y entró en la Knéset, dado que Likud ganó 27 escaños.

Yalón considera a Irán la fuente principal de inestabilidad y terrorismo en la región.

[15]​ En una entrevista con The Sydney Morning Herald Yaalón declaró: «Tenemos que enfrentarnos a la revolución iraní inmediatamente.

No hay forma de estabilizar Oriente Medio hoy en día sin derrotar el régimen iraní.

[14]​ Para derrotar a Irán añadió que «Deben ser consideradas todas las opciones y herramientas».

Dijo que estas comunidades eran todas legítimas y no deberían llamarse «ilegales».

[20]​ Yalón explicó que, de hecho, todos lo israelíes quieren paz, ahora.