古典时代及中世纪前期
经历过新亚述、新巴比伦、波斯、希腊（以及继业者托勒密埃及和塞琉古）等古国的统治，犹太人在这一地区逐渐衰落。
哈斯蒙尼王朝
由马加比家族建立，存在在希腊塞琉古帝国时期半独立国家，被视为独立的以色列。最终在公元前37年被罗马人灭亡，后来大希律王被罗马共和国封为犹太王，开始了希律王朝（英语：Herodian dynasty）。大希律王死后，罗马帝国随即将犹太地改为犹太行省，委任总督管治，而之后封的犹太王只是象征性，实权在总督手上。
罗马帝国及希律王朝时期
哈斯蒙尼王朝灭亡后，罗马人任命了大希律王为犹太人的王，开始了服从罗马帝国的希律王朝（英语：Herodian Dynasty）。大希律王统治时期的以色列叫希律犹太王国（英语：Herodian Kingdom of Judea）（公元前37年-前4年）。
大希律王死后罗马帝国将犹太地分为四个郡王统治，均为希律的后代：希律·安提帕斯、希律·亚基老（英语：Herod Archelaus）、希律·菲利普二世（英语：Philip the Tetrarch）和莎乐美一世。其中统治犹地亚核心地区的分封王希律·亚基老因为残暴统治而于公元6年被罗马皇帝屋大维罢免，他的领地变为罗马“犹太行省”，委任罗马总督/长官管治，而其余三位分封王：希律安提帕斯、希律菲利普二世和莎乐美一世的领地仍受犹太行省管治，因此三位分封王的存在是象征性。
《圣经》由新约开始，记载的事件背景多为犹太行省和三位分封王领地等地方。罗马长官（英语：Prefect）的地位及权力亦比由罗马皇帝指派的犹太地其余的三位分封王更高。
公元39及41年，希律亚基帕一世重新获得整个犹太地，继大希律王后又一位王作为犹太人的王，直到他在44年死亡，由希律亚基帕二世继位，但只拥有加利利和先前希律菲利普二世的封地，犹太行省仍然存在。公元66年和132年，为了反抗罗马帝国统治，当地犹太人发起了犹太战争以及巴尔柯赫巴起义，但均遭到第十海峡军团的镇压，亚基帕二世逃往罗马城，希律王朝亦在此时终结。
罗马帝国后期及东罗马帝国时期
公元70年犹太战争结束后罗马继续管治，在132年的一次大规模起义失败后，罗马帝国皇帝哈德良将犹太人驱逐出这一地区，将地名改为“叙利亚-巴勒斯坦”，从此以色列地/犹太地多了一个家传户晓的名字一“巴勒斯坦”。虽然如此，千年来小部分犹太人一直留在巴勒斯坦，但主要的犹太人口从以色列南部移至北部、或其他大陆。犹太教最重要的两本经籍《密西拿》和《塔木德》经也是在这段时期写成。
390年犹太行省正式被拆分为三个省份。395年罗马帝国分裂后由拜占庭帝国（东罗马帝国）继承。
中世纪、近代至现代
公元638年，阿拉伯帝国趁拜占廷帝国刚结束了激烈的拜占庭－萨珊战争夺取该地区的控制权，之后一千多年数个musilin帝国统治过这个地区；包括倭马亚王朝、阿拔斯王朝、法蒂玛王朝、塞尔柱帝国，以及花剌子模（非常短的时间）。在1260年埃及马木留克王朝进一步打击在黎凡特的十字军国家及蒙古势力，1291年耶路撒冷王国亡于马木留克，代表着在中东的十字军全部被消灭。马木留克统治这地区至1517年。
奥斯曼时期
接着在1517年埃及被奥斯曼帝国征服，这地区亦顺理成章地成为奥斯曼帝国一个省份。至1918年奥斯曼帝国于第一次世界大战战败，1920年由英国托管到1948年。
英国托管时期与锡安主义和犹太人回归
近几个世纪以来，诸多流亡海外的犹太人一直试图返回以色列。1800年，在巴勒斯坦地区犹太人总人口约1万人，据奥斯曼帝国人口统计，此时约30万总人口划分为犹太人3%，基督徒10%，musilin87%。18世纪开始有数波小型的回归潮，从数百到上千人不等。
在1878年，佩塔提克瓦出现第一个大型的犹太人农场社区，此时在巴勒斯坦地区犹太人总人口约3万7千人。第一次大规模的回归浪潮则始于1881年，散居在世界其他地区的犹太人来到中东定居，并从奥斯曼帝国的阿拉伯人手中购买土地。1896年，基于犹太人在东欧受到种种迫害，维也纳记者和剧作家西奥多·赫茨尔发起了锡安主义运动，又称“犹太复国主义运动”。该运动号召散居全世界的犹太人“回归故土”，恢复本民族的生活方式。1897年8月29日在瑞士巴塞尔，他召集第一届“世界锡安主义大会”，大会决议建立“一个得到公众承认的、有法律保障的家园（或国家）”。“犹太国民基金”和“巴勒斯坦土地开发公司”等相应机构成立，帮助世界各地的犹太人向巴勒斯坦移民。锡安主义运动的发展推动“第二次回归浪潮”（1904－1914年），约有4万名犹太人返回定居，至1914年巴勒斯坦地区犹太人总人口约9万4千人，占总人口70万的13%。此时当地尚极少发生musilin、基督徒和犹太教徒的宗教及民族冲突。