Manje je poznato da je fudbalska reprezentacija Izraela direktan nasljednik nacionalnog tima Palestine iz vremena dok je Velika Britanija upravljala Palestinom.
Fudbalska selekcija Izraela do sada se takmičila u tri različite konferederacije, u okviru kvalifikacija za Svjetsko prvenstvo, prvo u Fudbalskoj konfederaciji Azije (AFC) i Konfederaciji Oceanije prije nego se počela takmičiti u Evropi kao članica UEFA-e od 1994. godine.
Nakon stvaranja nezavisne države Izraela u maju 1948. godine Izraelska fudbalska asocijacija (IFA) postala je zvanična asocijacija nove države. U prvoj utakmici kao nezavisna država, reprezentacija Izraela je 26. septembra 1948. godine je igrala protiv američkog olimpijskog tima. SAD su bile bolje rezultatom 3:1, a prvi gol u historiji fudbalske selekcije Izraela postigao je Shmuel Ben-Dror u 20. minuti igre.Palestinski fudbalski savez formiran je u avgustu 1928. godine, a pridružio se FIFA-i u junu 1929. godine. U to vrijeme Fudbalski savez Palestine je bio sastavljen od arapskih i jevrejskih klubova, ali i klubova koji su predstavljali britanske policajce i vojnike na službi u regiji tokom britanskog mandata koji je trajao u periodu od Prvog svjetskog rata do osnivanja države Izraela 1948. godine.
Izrael se takmičio u okviru Fudbalske konfederacije Azije (AFC) od 1954. do 1974. godine. S obzirom na arapsko-izraelski sukob, nekoliko muslimanskih država je u tom periodu odbilo da igra protiv reprezentacije Izraela.
Izrael je 1974. godine bio isključen iz takmičenja AFC-a nakon usvojenog prijedloga Kuvajta. Tokom 1980-ih Izrael je većinu utakmica igrao protiv evropskih timova i već 1982. godine takmičio se u Evropi u okviru kvalifikacija za FIFA-ino Svjetsko prvenstvo 1982. godine. U naredna dva kruga kvalifikacija, Izrael se takmičio kao članica Oceanije.
Izraelski klubovi su 1991. godine počeli da se takmiče u evropskim klubskim takmičenjima, a Izrael se vratio u Evropu gdje je igrao utakmice kvalifikacija za Svjetski kup 1992. godine. Izrael je 1994. godine i zvanično postao članica UEFA-e, 20 godina nakon što je napustio Aziju.
U Evropi Izrael ima status male fudbalske zemlje, a među njene najveće uspjehe sigurno spada pobjeda od 3:2 u Parizu protiv Francuske 1993. godine i 5:0 protiv Austrije 1999. godine. Izrael je te godine igrao u playoffu za Euro 2000, ali je poražen od selekcije Danske.
Izraelska fudbalska reprezentacija izborila je samo jednom plasman na FIFA-ino Svjetsko prvenstvo i to 1970. godine. Osim toga, Izrael je bio domaćin Azijskog kupa 1964. godine kojeg je i osvojio a na istom takmičenju je izborio finale 1956. i 1960. godine.
U okviru kvalifikacija za Evropsko prvenstvo, reprezentacija Izraela je do sada ukupno odigrala 48 utakmica od čega je upisala 21 pobjedu, 10 neriješenih utakmica i 17 poraza, dok su ukupno postigli 80 a primili 56 golova.
