本來(lái)，段匹磾與劉琨結(jié)盟，是想借助劉琨的威望提高自己的號(hào)召力，可根本沒(méi)啥作用。更讓段匹磾始料不及的是，劉琨的威望沒(méi)能讓段氏內(nèi)部實(shí)力派聽(tīng)命于己，卻贏得了原來(lái)居住在幽州的晉人之心。這讓段匹磾如坐針氈。

如今的段匹磾可謂是內(nèi)外交困，面對(duì)咄咄逼人的段末柸，惶恐不安的他找到了劉琨，主動(dòng)提出撤出薊縣，并將幽州的胡人和晉人一起轉(zhuǎn)移到代郡。然而，代郡被拓跋鮮卑占據(jù)著。其新任首領(lǐng)拓跋郁律拓跋郁律：五胡十六國(guó)時(shí)期鮮卑拓跋氏首領(lǐng)，其父為拓跋弗，其子為拓跋翳槐、拓跋什翼犍。與劉琨并無(wú)多深的交情，此時(shí)如果逃難到代郡，顯然是兇多吉少。因此，劉琨堅(jiān)決反對(duì)。他說(shuō)，如果要撤離幽州的話，最好還是南下，這樣就更接近江南的朝廷。但是，段匹磾沒(méi)有采納。

就在這個(gè)當(dāng)兒，段匹磾?shù)难策壉プ×藦亩文〇饶沁厑?lái)給劉琨送信的使節(jié)，并從使者的身上搜出了劉群親筆書(shū)寫的那封密信。當(dāng)時(shí)，劉琨住在征北將軍府所在的小城，與段匹磾并不居住在同一個(gè)城內(nèi)，因此對(duì)此事完全不知情。

段匹磾?shù)玫絼⑷簳?shū)信以后，滿腹狐疑，謊稱有要事相商，派人請(qǐng)劉琨進(jìn)城。不知情的劉琨毫無(wú)防備地進(jìn)城來(lái)見(jiàn)段匹磾。段匹磾一向都對(duì)劉琨十分敬重，他將劉群的書(shū)信拿給劉琨看?？催^(guò)書(shū)信，劉琨從容地說(shuō)道：“我發(fā)誓與您結(jié)為同盟，一起效力王室。這次不說(shuō)我沒(méi)有收到書(shū)信，即使收到了書(shū)信，我也不會(huì)因?yàn)橐粋€(gè)兒子，就做出辜負(fù)您的事情！”段匹磾說(shuō)：“我根本就不懷疑您，所以才拿出來(lái)叫你看來(lái)著。”

話雖這樣說(shuō)，但這封書(shū)信不能不讓段匹磾有所警惕。段匹磾?shù)牧硪粋€(gè)弟弟段叔軍私下對(duì)他說(shuō)道：“我們是胡人，之所以能讓晉人服從，只是因?yàn)樗麄兦鼜挠谖覀內(nèi)硕唷Ｈ缃?，我們骨肉相殘，正是晉人人心思動(dòng)之時(shí)。如果現(xiàn)在有人站出來(lái)，奉劉琨為主，我們就全完了。”段匹磾本來(lái)還打算將劉琨送回，但聽(tīng)段叔軍這么一說(shuō)，滿腹狐疑，就把劉琨軟禁起來(lái)了。

劉琨被軟禁的消息很快像瘟疫一樣迅速傳播，事態(tài)開(kāi)始失控。

留在小城的劉琨的庶長(zhǎng)子劉遵擔(dān)心被殺，趕緊閉城自守。段匹磾派人前往曉諭，但劉遵置之不理。于是，段匹磾派兵強(qiáng)行攻擊小城。城內(nèi)糧食不多，守軍堅(jiān)守了一段時(shí)間。最后，劉琨的某部將因乏食，被迫率眾開(kāi)門投降，劉遵被俘。

劉琨被段匹磾關(guān)押了將近一個(gè)月時(shí)間，消息傳來(lái)，晉人義憤填膺。代郡太守辟閭嵩、雁門太守王據(jù)、后將軍韓據(jù)等人密謀，準(zhǔn)備攻下幽州，襲殺段匹磾，救出劉琨。韓據(jù)的女兒是段匹磾兒子的妾，她聽(tīng)說(shuō)自己父親的計(jì)劃，就向段匹磾告密。段匹磾立即逮捕了辟閭嵩、王據(jù)以及牽連到的部眾，將其全部殺掉。事已至此，再無(wú)挽回的余地。

這時(shí)候，正好建康方面派來(lái)了使者。史書(shū)稱，這是王敦的使者。

聽(tīng)說(shuō)建康來(lái)的使者是王敦派來(lái)的，劉琨對(duì)兒子說(shuō)：“處仲(王敦字)使來(lái)而不我告，是殺我也。死生有命，但恨仇恥不雪，無(wú)以下見(jiàn)二親耳?！闭f(shuō)罷，他忍不住歔欷長(zhǎng)嘆，淚落如雨。此時(shí)的劉琨知道自己必死無(wú)疑，但他早已將生死置之度外了。