1953年3月，斯大林去世。在獨(dú)裁者的國(guó)葬儀式上，朱可夫是軍方儀仗隊(duì)伍中非常引人注目的一員。在后斯大林時(shí)代，任命朱可夫?yàn)閲?guó)防部副部長(zhǎng)，是新的蘇聯(lián)政府最早宣布的決定之一。隨著1955年2月朱可夫被繼斯大林之后擔(dān)任蘇共領(lǐng)導(dǎo)人的赫魯曉夫任命為國(guó)防部部長(zhǎng)，對(duì)他的平反工作也繼續(xù)迅速展開(kāi)。1955年7月，朱可夫參加了在日內(nèi)瓦舉行的英、法、美、蘇大國(guó)峰會(huì)。這也是戰(zhàn)后的首次峰會(huì)。他在那里遇到了戰(zhàn)爭(zhēng)剛結(jié)束時(shí)曾在柏林共事的德懷特·艾森豪威爾總統(tǒng)，并與之進(jìn)行了會(huì)談。讓當(dāng)時(shí)的《時(shí)代》雜志感到好奇的是：“兩位老兵的友誼能否成為美蘇緊張關(guān)系真正緩和的基礎(chǔ)？”

作為國(guó)防部部長(zhǎng)，朱可夫在蘇聯(lián)成了引人關(guān)注的公眾人物，其地位僅次于赫魯曉夫。1957年6月，在反對(duì)以前外交部部長(zhǎng)維亞切斯拉夫·莫洛托夫?yàn)槭椎膹?qiáng)硬派企圖剝奪赫魯曉夫領(lǐng)導(dǎo)權(quán)的斗爭(zhēng)中，朱可夫扮演了重要角色。但不幸的是，對(duì)朱可夫而言，他在與莫洛托夫的斗爭(zhēng)中所表現(xiàn)出的勇氣，使自己成了赫魯曉夫眼中的政治威脅。1957年10月，朱可夫受到指控，說(shuō)他陰謀削弱黨在武裝力量中的作用。在那些指控朱可夫最力的人當(dāng)中，有許多都是戰(zhàn)爭(zhēng)期間曾與他并肩戰(zhàn)斗的將軍和元帥。朱可夫被赫魯曉夫解除了國(guó)防部部長(zhǎng)職務(wù)，并于1958年3月在六十一歲這個(gè)還相對(duì)年輕的年齡時(shí)退役了。

就像在斯大林時(shí)代被外放一樣，朱可夫在赫魯曉夫時(shí)代剩余的時(shí)光里，也遭受了同樣的命運(yùn)：從歷史書(shū)籍中除名。例如，蘇共在從1960年開(kāi)始出版的大部頭、多卷本衛(wèi)國(guó)戰(zhàn)爭(zhēng)史中，在極力夸大赫魯曉夫的作用的同時(shí)，對(duì)朱可夫幾乎只字不提。朱可夫失勢(shì)的另一個(gè)表現(xiàn)就是把他與外界隔離開(kāi)來(lái)。1963年，美國(guó)作家科尼利厄斯·瑞安在為他的那本研究柏林戰(zhàn)役的書(shū)而訪問(wèn)蘇聯(lián)的時(shí)候，唯一被禁止見(jiàn)到的蘇聯(lián)元帥就是朱可夫。

讓朱可夫聊以自慰的是，他可以寫(xiě)自己的回憶錄。他的作家角色的榜樣是溫斯頓·丘吉爾。他讀過(guò)后者以回憶錄的形式撰寫(xiě)的二戰(zhàn)史——20世紀(jì)50年代在蘇聯(lián)出版并限制發(fā)行的俄文譯本。丘吉爾寫(xiě)那部書(shū)時(shí)的座右銘是，歷史會(huì)證明他是對(duì)的———因?yàn)樗麑?huì)書(shū)寫(xiě)歷史！朱可夫似乎也抱有類似的想法，他不僅要用回憶錄來(lái)表明自己的觀點(diǎn)，還要用它來(lái)回?fù)艉头瘩g赫魯曉夫那幫人對(duì)他的批評(píng)，盡管那意味著會(huì)為了對(duì)自己有利而影響到歷史記錄的準(zhǔn)確性。

只要赫魯曉夫還在繼續(xù)統(tǒng)治蘇聯(lián)，朱可夫的回憶錄就不可能出版。當(dāng)他的女兒埃拉問(wèn)他為什么還要?jiǎng)谏褓M(fèi)力的時(shí)候，朱可夫說(shuō)自己是為書(shū)桌的抽屜寫(xiě)的。不過(guò)，1964年10月，赫魯曉夫下臺(tái)了，為恢復(fù)朱可夫作為重要軍事人物的名譽(yù)的工作也開(kāi)始了。最值得注意的是，蘇聯(lián)媒體又開(kāi)始發(fā)表朱可夫的文章了，包括他對(duì)莫斯科、斯大林格勒、庫(kù)爾斯克和柏林等戰(zhàn)役的記述。