再說，劉琨死后，他的很多舊部也都投降了石勒?！稌x書·石勒載記》稱：“琨將佐相繼降勒。”而如今的段匹磾難以在幽州立足，對石勒已經(jīng)構(gòu)不成什么威脅。于是，石勒將目光從北方的幽州暫時轉(zhuǎn)移到平陽。

石勒所部很快進(jìn)抵平陽東南襄陵(山西省臨汾市東南)的城北平原。靳準(zhǔn)率軍數(shù)次挑戰(zhàn)，石勒都堅守軍壘。不久，劉曜來自長安的部隊，也渡過了黃河，進(jìn)屯蒲坂(山西省永濟(jì)市)。

大興元年(公元318年)冬十月，劉曜部隊更向北推進(jìn)到赤壁(山西省河津縣西北)。在大亂中幸存的太保呼延晏也從平陽逃出，與此前逃奔劉曜的太傅朱紀(jì)、太尉范隆等人共同勸進(jìn)劉曜登基。于是劉曜即皇帝位，改元光初，大赦境內(nèi)，而只有靳準(zhǔn)一門不在大赦之內(nèi)。他任命朱紀(jì)為司徒，呼延晏為司空，范隆以下均為原職，另外擢升石勒為大司馬、大將軍，加“九錫”，增加采邑十郡，晉爵趙公。最后，劉曜命令征北將軍劉雅生、鎮(zhèn)北將軍劉策駐軍汾陰(山西省運(yùn)城市萬榮縣西南榮河鎮(zhèn))，與石勒大軍共同進(jìn)擊靳準(zhǔn)。

靳準(zhǔn)面臨東西兩面被夾擊的局面。而此時，真正與靳準(zhǔn)部隊交鋒的是石勒，而不是劉曜。因為劉曜當(dāng)時力量不足，史稱“時曜勢實殘弊”，他只是遠(yuǎn)遠(yuǎn)地看著。石勒開始進(jìn)攻平陽小城，迫使平陽守將投降，緊接著諸羌、羯也紛紛投降，石勒將他們都遷到自己控制的司州各縣。

石勒大軍圍城，靳準(zhǔn)眼看情況不妙，就派遣使者卜泰向石勒送上皇帝的御用車轎、衣服，請求和解。當(dāng)時，石勒與劉曜都想吞并靳準(zhǔn)的部眾。石勒接見卜泰以后，又將卜泰送到了劉曜的軍營。不過，劉曜也不是傻子，他將計就計對卜泰說：“先帝劉粲確實是亂了倫理綱常，而宦官們專權(quán)，誅殺忠良。這的確是義士奮起匡救的時候啊。司空靳準(zhǔn)內(nèi)心忠烈，實行伊尹、霍光的權(quán)宜措施，拯救民眾于涂炭之中，也使我得到皇帝寶座。他的功勛高過古人，德行大于天地。我正要平定天下，總不會隨意誅殺賢人君子的啊！如果司空能早一天迎接大駕，我還要把國家大事，全部委任給他，而我只負(fù)責(zé)祭祀事宜。請你將我的這個意思告訴司空，并且在朝廷之上公開宣布?！庇谑?，劉曜偷偷與卜泰結(jié)下了盟約。

卜泰回城的時候，石勒懷疑卜泰與劉曜之間有什么約定，想當(dāng)機(jī)立斷將其殺掉，以加速城中投降。眾將勸說石勒：“今天如果殺掉卜泰，靳準(zhǔn)肯定就不會投降了。即使劉曜與卜泰有什么盟約的話，也是讓卜泰糾集屠各誅殺靳準(zhǔn)。這樣，靳準(zhǔn)肯定因為擔(dān)心在內(nèi)亂中被殺而早早投降我們。”

石勒考慮再三，過了很久才同意了大家的意見。

卜泰回到平陽以后，向靳準(zhǔn)匯報了與劉曜的盟約。靳準(zhǔn)頭腦還是比較清醒的，雖然劉曜說得天花亂墜，但是自己畢竟殺掉了劉曜的母親和兄長，他真能像說的那樣捐棄前嫌么？是投降石勒，還是投降劉曜，靳準(zhǔn)一時間拿不定主意。

然而，劉曜開出的豐厚條件讓靳準(zhǔn)的手下都眼紅了。如果投降石勒，生死未卜；而投降劉曜呢，起碼不會有生命之憂了吧。殺掉靳準(zhǔn)，將是自己最大的進(jìn)身之階。于是，卜泰聯(lián)合靳準(zhǔn)的堂弟靳康等人，誅殺了靳準(zhǔn)，共同推舉尚書令靳明為盟主。卜泰再次充當(dāng)使者，將六枚傳國玉璽送交劉曜。劉曜見到卜泰，大喜，對他說：“讓我能夠得到這神奇的玉璽，坐穩(wěn)帝王位置的，是您啊！”