但是晚年的大卫犯了一个错误，有次他在王宫的阳台上闲逛，刚好看到远方有个漂亮的女子在洗澡，色心大动的大卫打听之下，知道了这个美女名叫拔士巴，是自己下属的一个老婆。于是大卫设计害死了这个下属，然后把拔士巴抢了过来，这很明显犯了“摩西十诫”。于是，晚年的大卫受到了惩罚，女儿夭折，儿子反叛，最终大卫还是醒悟过来，于公元前960年把王位传给了他最小的儿子：所罗门。
所罗门继位后，以色列联合王国迎来最为辉煌的年代，这个时候以色列王国与埃及结成同盟，同时大力发展贸易，以色列王国逐渐变得十分富有，以至于以后的西方小说里面，“所罗门”这个名字成为了财富的代名词，只要哪个人物叫所罗门的话，那基本就是一个富豪了。国家有钱了，所罗门就寻思要建一座向上帝祈祷的圣殿，于是在耶路撒冷的圣殿山上，所罗门修建了著名的所罗门圣殿，也称第一圣殿。
晚年的所罗门同样昏庸，因为国家太有钱了，他开始挥霍无度，圣殿和宫殿内的一切器具都用黄金打造，奢华极尽。为了维持奢生活，所罗门还不断加大赋税，到了所罗门死去，他的继承人罗伯安再也无力掌控以色列联合王国了。以色列联合王国最终一分二，北方成立以色列王国，南方成立犹太王国（也称犹大王国）。
北方的以色列王国延续了将近200年，于公元前722年被强大的亚述帝国所灭，残暴的亚述人将以色列人集体迁到两河流域作为奴隶使用，以色列历史记载这次迁移为第一次大流散。时间又过了一百多年，犹太王国被新巴比伦王国尼布甲尼撒二世征服，都城耶路撒冷沦陷，第一圣殿也随之被摧毁，城中犹太人也被集体迁到新巴比伦王国都城巴比伦尼亚，史称第二次大流散，也就是“巴比伦之囚”。
以色列最终被灭国了，直到在居鲁士大帝打败了新巴比伦之后，悲惨的犹太人才重获自由，重新回到迦南地区。犹太人对耶路撒冷进行了修缮，并且重建了圣殿，也叫第二圣殿，但是此时的迦南地区只是波斯帝国的一个行省而已。
随着波斯第一帝国与马其顿帝国的相继衰落，以色列人在公元前141年迎来了短暂的复兴，建立了以耶路撒冷为中心的哈斯蒙尼王国，但是好景不长，公元前63年，罗马帝国三巨头之一的庞培带兵攻陷了耶路撒冷。哈斯蒙尼王国被罗马帝国征服后，犹太人开始了2000年的全世界流浪之旅。
没有那个民族能够像犹太民族一样，国家消亡后，历经这么多年都没有泯灭在无情的历史长河中，这不得不感叹犹太教的神奇，犹太教虽然限制了犹太人的发展，但同时也保留了犹太人的纯粹，为犹太人的复国一直保留了火种。