El equipo está asociado con la política socialista y con el Histadrut, una federación sindical israelí.
En 1927, Alenbi FC y Hapoel Tel Aviv se fusionaron para dar al equipo la forma que mantiene hoy en día.
El Hapoel sumó tres ligas más a sus vitrinas en años venideros, 1938, 1940 y 1943.
Todo lo contrario supuso la década de los 70’, donde el Hapoel no consiguió ningún título y la sequía se hacía interminable.
Hasta 2006 no volvería a escribir hojas con letras de oro en Europa.
En la ida el Hapoel venció 2-1, pero en la vuelta en Glasgow el equipo sucumbió y cayó goleado por 4-0.
En otro hecho histórico para el fútbol israelí, el Hapoel alcanza la fase de grupos de la UEFA Champions League en 2010, enfrentándose a equipos como Schalke 04, Olympique Lyon y Benfica, quedando lastimosamente en último lugar.