5月30日，上海發(fā)生“五卅”慘案。全國各地和海外華人紛紛聲援上海工人和學生的斗爭。在此后的一兩周內，國內的游行示威、罷工、罷課活動就達600多起。6月初，蕪湖成立“蕪湖國民外交后援會”聲援上海，李克農、阿英擔任該組織的負責人，并負責“外交后援會”宣傳事務。后來，大批學生從教會學校退學，為了使這些退學的學生有書可讀，使他們能夠接受更高層次的教育，李克農與宮樵巖、錢杏邨等在大觀山腳下創(chuàng)辦民生中學。學校創(chuàng)辦伊始，李克農擔任事務主任，宮樵巖擔任該校第一任校長。民生中學不但收容了被教會開除的學生，還培養(yǎng)了許多貧苦人家的子弟。

學校成立不久，錢杏邨因抨擊時局，被軍閥通緝，只身去了上海。

1925年9月，中國共產(chǎn)主義青年團江、浙、皖兼上海地方執(zhí)委會秘書張秋人，從上海來蕪開始建黨，要求超齡團員轉為中共黨員，不久成立了蕪湖第一個黨支部，由張秋人擔任支部書記，委員有王坦甫、周范文。1926年3月，中央總書記陳獨秀召周范文赴上海，當面指示安徽建黨工作。4月，周范文由上?；厥?，將黨團組織分開，正式建立中共蕪湖特別支部（簡稱“蕪湖特支”）。

錢杏邨在上海加入中國共產(chǎn)黨后，受組織派遣潛回蕪湖民生中學，準備策劃武裝起義。在錢杏邨的影響帶動下，李克農也積極要求加入中國共產(chǎn)黨。1926年冬，李克農經(jīng)楊士彬、俞昌準介紹，光榮地加入中國共產(chǎn)黨。

1927年3月，國民黨蕪湖縣黨部成立。李克農雖加入了共產(chǎn)黨，他的公開職業(yè)卻是國民黨蕪湖市黨部執(zhí)行委員兼宣傳部長，沒過多久又擔任安徽省委委員。在此期間，他配合國民革命軍北伐，從事進步活動，在當時有很大的社會影響。

4月12日，蔣介石在上海發(fā)動反革命政變。幾天后，蕪湖大批共產(chǎn)黨員與進步人士被捕，有的被殺害。4月18日，蕪湖國民黨右派策劃反革命事變，李克農事先獲悉，及時通知同志們轉移，使中共蕪湖特支及共青團蕪湖地方執(zhí)行委員會主要骨干得以隱蔽。在反革命氣焰十分囂張的情況下，李克農等人潛往巢縣，他成了敵人懸賞通緝的對象。

8月12日，蔣介石被迫下野，情況有所好轉。11月27日李克農返回蕪湖，恢復民生中學，并自任校長。他以民生中學校董事會主席身份主持校務，將此校辦成中共安徽省臨委的秘密活動點。根據(jù)黨的指示，他在校內成立“濟難會”，組織學生反對蔣介石和新軍閥陳調元。