而代国的内乱，导致拓跋猗卢的亲信旧部箕澹、卫雄等人受到了排挤。基于刘琨与拓跋猗卢曾经的关系，这些在当时走投无路的人，遂和当时在拓跋部做人质的刘琨之子刘遵，率领三万余人一起奔赴并州地区投靠了刘琨。刘琨因此军威大振，实力徒增。也正是此时被石勒围困的韩据发来了求救信，刘琨遂决定率军讨伐石勒以解其围，但由于刘琨的部队刚刚扩张，尚未整合，无法形成对等有效的协同战斗力，所以箕澹、卫雄等人纷纷劝阻刘琨应该先静观其变，不要轻举妄动。谏言道：乱民饥疲，未可便用，宜休息观衅而动。但刘琨犯了和王浚同样的错误，就是世家出身的他们，对奴隶起家的石勒永远有着一种不自觉的轻视，总认为石勒虽勇，但终归只是宵小之辈，无名无份。只要自己大军在握，优势就一定在我，这种傲慢与偏见，不仅葬送了王浚，也即将同样活埋刘琨。刘琨不顾军中异议，执意借机征讨石勒，意欲一战而胜，荡平幽冀，所以他几乎动用了能用的所有兵力，以箕澹率二万精兵为前锋，自己则屯兵广牧伺机而动。
而另一边的石勒获知刘琨部行动后，即刻做出了精准判断，认为刘琨部先锋箕澹所率之兵有两个致命点。一是其远道而来，兵疲将乏，锐气不足。二是其所率之兵未经整肃，兵员组成复杂，纯属乌合之众，战力不足。所以只要诱敌深入，再以伏兵相击，使其收尾不能相顾，致其号令难行，其军必乱，乱则可歼。基于此石勒遂决意迎击，为了计谋顺利进行，石勒亲率轻骑与箕澹交战，然后佯装败退，诱使箕澹追击入险地。当箕澹追击进入包围圈后，早已埋伏于山中的伏兵遂群起攻之，而狡黠的石勒立刻调转矛头与伏兵配合作战夹击箕澹。箕澹遂陷前后夹击之中，四面楚歌之下，箕澹大败，不得不率千余骑兵向北逃往代郡，石勒则派其大将孔苌对其进行追击，最终箕澹、卫雄皆为孔苌所杀。
而另一边的韩据闻其大败，遂弃城而逃，想要投奔刘琨，可戏剧性的事情发生了，由于此战刘琨部大败震动并州，导致人心惶惶，本来奉命坚守并州治所阳曲的刘琨长史李弘，见石勒兵威进逼，而刘琨又因决策失误新败于其足下，遂以并州为礼献于石勒。李弘的投降导致刘琨经营数年的大本营丢失，使其进退失据，正在彷徨无所依凭的他，突然接到了时任幽州刺史段匹磾的邀请，刘琨遂率部自飞狐道狼狈逃亡幽州。段匹磾对刘琨非常敬重，遂与之联姻，并如当年的拓跋猗卢一样与之结为兄弟，歃血为盟共同拥戴晋室朝廷，匡扶社稷。在之后更是在西晋灭亡后，与刘琨联名进劝身在江南的晋王司马睿继位。
刘琨与段匹磾的结盟看似峰回路转，实际上却暗流涌动。因为当年段匹磾奉王浚命征讨石勒时，他的堂弟段末波被石勒俘虏，受到石勒优待，并认石勒为义父，所以自此段末波就一心归附石勒。而段匹磾和刘琨则意欲攻灭石勒，这与其志向所背，所以段匹磾后来征讨石勒不成，很大一定程度上是他这个堂弟在从中作梗。
两年后，即公元318年段部鲜卑首领辽西公段疾陆眷去世，段匹磾前往吊丧。段末波趁机挑拨离间，到处宣扬段匹磾用心不轨，志在夺位，唆使代行首领的段涉复辰率兵出城阻止段匹磾。而他则趁机袭杀了没有防备的段涉复辰，并大肆屠戮其宗亲子弟、亲信党羽。随后率军讨伐段匹磾，段匹磾被打的猝不及防，很快被击败，与之随行的刘琨之子刘群被俘虏，段匹磾则狼狈逃回蓟城。而段末波在俘虏刘群后不仅没有杀他，反而厚待其人，而且许诺支持刘琨为幽州刺史，让其写信给刘琨，而这封被秘密送给刘琨的信，却被段匹磾拦截了下来。段匹磾遂扣押了刘琨，并攻击刘琨部属，随后矫诏勒死刘琨，杀其子侄四人。一代晋朝名将刘琨就在这一场场阴谋诡计之中，无声无息的死去。而其十年苦苦经营的并州也易主他人，西晋在北方的最后一片势力最终随同他所追随王朝一起消失在历史的长河之中。