國民黨假和談、真內(nèi)戰(zhàn)的面目不久暴露，他們在簽訂“雙十協(xié)定”不久，就向解放區(qū)進攻。上黨戰(zhàn)役、平漢路一線失敗后，他們再耍起“和談”陰謀。12月下旬，美國陸軍上將馬歇爾將軍來華，調(diào)停國共沖突。1946年1月，由美國、國民黨、共產(chǎn)黨三方組成軍事調(diào)停小組，同時在北平成立軍調(diào)處執(zhí)行部。李克農(nóng)隨中共代表團赴北平，任代表團秘書長。對外，他與葉劍英一起出席三方聯(lián)席會議，主持交涉、交際和新聞發(fā)布活動；對內(nèi)，他統(tǒng)管政治、人事、后勤、電臺等工作，同時還要負責(zé)搜集有關(guān)情報。軍調(diào)處中共代表團的工作人員一部分住北京飯店，李克農(nóng)與機要、電臺的同志住在翠明莊。

剛住到翠明莊時，精通無線電業(yè)務(wù)的李克農(nóng)就查出了國民黨的竊聽裝置。他與耿飚在自己的房間里談話，沙發(fā)面前是一個小圓桌，李克農(nóng)不小心碰倒了茶杯，茶杯掉在地上。當(dāng)他彎腰下去撿茶杯時，發(fā)現(xiàn)桌子下面的地板有些松動。這一細小的情況立即引起了李克農(nóng)的警覺，他與耿飚立即把桌子搬開，撬開松動的地板，果然不出所料，下面露出了國民黨特務(wù)安裝的竊聽器。

李克農(nóng)立即下令，對中共代表團居住的所有房間進行仔細檢查，把國民黨特務(wù)安裝的竊聽器全都找出來。這一找不打緊，還真找出了不少。李克農(nóng)把自己房間的那個竊聽器按原樣裝好，第二天找來國民黨代表，當(dāng)著他們的面把竊聽器找出來，要求國民黨作出解釋。國民黨代表面紅耳赤，理屈詞窮之下顯得十分狼狽。

中共電臺在翠明莊工作時，多次發(fā)現(xiàn)附近有可疑電波。李克農(nóng)接到工作人員報告，布置縝密偵查，確定在翠明莊地下室有一部小型電臺，國民黨利用它專門竊聽中共代表團的電文，試圖獲取電臺的密電碼。證據(jù)在手，代表團向國民黨提出強烈抗議，國民黨只好認錯，可疑電波從此消失。

國民黨特務(wù)還準備組織暴徒搗毀葉劍英住所和襲擊翠明莊。李克農(nóng)得到情報后，提前一天讓葉劍英離開住所，并安排一位英國記者住進葉劍英的住所。當(dāng)一伙暴徒闖進葉劍英住所時，發(fā)現(xiàn)葉劍英換成了洋記者，知道事情敗露，只好灰溜溜走了，同時也不敢到翠明莊鬧事。

李克農(nóng)利用軍調(diào)處的合法地位，在華北國民黨軍政機構(gòu)內(nèi)部建立了不少情報組織，發(fā)展了一批重要的情報人員。如第十一戰(zhàn)區(qū)司令部作戰(zhàn)處長謝士炎、軍法處副處長丁行（又名丁行之），北平第二空軍司令部參謀趙良璋等，這些人后來都加入了共產(chǎn)黨，為我方提供了許多重要的軍事情報。后來，趙良璋、謝士炎等人在“北平諜案”中壯烈犧牲。

1946年6月底，國民黨在美國的幫助下，基本完成了內(nèi)戰(zhàn)部署。蔣介石露出了他的本來面目，公然撕毀停戰(zhàn)協(xié)議，向解放區(qū)發(fā)動大舉進攻。在這種情況下，8月10日美國宣布“調(diào)?！笔?，北平軍調(diào)部關(guān)閉。10月1日，李克農(nóng)回到延安。

1948年，李克農(nóng)任中央情報部代理部長。在解放戰(zhàn)爭中，李克農(nóng)指揮情報部門及時搜集大量的重要情報，為中央研究戰(zhàn)局、制定戰(zhàn)略方針提供了重要依據(jù)。李克農(nóng)領(lǐng)導(dǎo)黨的隱蔽戰(zhàn)線配合軍事作戰(zhàn)，特別是在遼沈、淮海、平津三大戰(zhàn)役中發(fā)揮了重大作用。