自那時起，金日成就抱定朝鮮不獨立就不回國的決心。

此后，他就讀于吉林毓文中學，并在此加入朝鮮共產(chǎn)青年同盟。1929年10月，因從事抗日活動，被中國東北地方政府逮捕，1930年5月出獄。因朝鮮共產(chǎn)黨已于1928年被共產(chǎn)國際解散，金日成于1931年參加中國共產(chǎn)黨并參加中共領導的抗日活動。

1931年冬，在中國東北義勇軍王德林部隊從軍的金日成，率領一部分朝鮮戰(zhàn)士脫離救國軍，成立了汪清游擊隊。不久任汪清游擊隊改編的東北人民革命軍第三團團長，在長白山區(qū)建立抗日根據(jù)地。1936年東北各地抗日部隊整編為東北抗日聯(lián)軍后，他又在楊靖宇將軍的第一路軍第二軍第六師任師長（該部回朝鮮境內(nèi)作戰(zhàn)時使用“朝鮮人民革命軍”名義），同時創(chuàng)建祖國光復會。1937年6月3日晚至6月4日，金日成率所部第二軍第六師第七團和師部共150人，在東北抗日聯(lián)軍第一路軍總指揮楊靖宇將軍所率第一路軍主力的掩護配合下，跨過鴨綠江，奇襲朝鮮北部咸鏡南道的日寇據(jù)點普天堡，并散發(fā)了《祖國光復會的抗日救國十大綱領》和《告朝鮮人民書》，在深受日寇欺凌壓榨的朝鮮北部民眾中造成了極大的政治影響，金日成也成為人們心目中的傳奇英雄。

1939年5月，金日成再度率部返回祖國，深入青峰、枕峰、茂山、新四洞等地，并在大紅丹一帶殲滅日寇討伐隊一部。

1940年，東北抗日聯(lián)軍遭受嚴重損失，余部在第二路軍總指揮周保中率領下退入蘇聯(lián)，金日成所率第一路軍警衛(wèi)旅和第二、三方面軍各一部約200余人也隨后進入蘇聯(lián)?？孤?lián)余部在蘇聯(lián)改編為“東北抗日聯(lián)軍教導旅”（對外稱“蘇聯(lián)遠東紅旗軍第八十八旅”），周保中任旅長，李兆麟任政治委員，另一位朝鮮愛國志士崔庸健任參謀長兼黨內(nèi)最高負責人——中共東北委員會書記。

金日成時任該部第一營營長，黨內(nèi)則為中共東北委員會副書記。

蘇軍出兵東北后，根據(jù)形勢的發(fā)展，中共東北委員會進行改組，人員一分為二，朝鮮同志組成朝鮮工作團返回朝鮮，中國同志隨蘇軍返回東北，由中國同志組成新的中共東北委員會，周保中兼任書記。朝鮮工作團負責人為書記崔庸健。

因崔庸健是原中共東北委員會書記，須向中共中央?yún)R報和移交工作后才能回國。于是金日成率所部與患難與共14年的中國同志灑淚而別，跟隨蘇軍先期返回朝鮮。同行的有后來成為朝鮮人民軍高級指揮員的金策、金一、金光俠、崔賢、吳振宇、樸成哲、林春秋等人。