徐向前初到大別山時，看到的是這樣一番景象：村莊都是破舊的草屋，人們衣不掩體。紅軍戰(zhàn)士和普通老百姓外表沒多少差別。沒有軍服，有的人也沒有槍。農(nóng)村比不上廣東的東江，隊伍比不上廣州起義的紅軍。徐向前又和當(dāng)年剛到廣東一樣，語言又成了交往中的大難題。他原想，湖北人講話會比廣東話好懂，哪知一進大別山區(qū)，仍是個不會本地話的“外鄉(xiāng)佬”。

他一到任就被任命為紅31師副師長，當(dāng)時正師長吳光浩已經(jīng)犧牲，但對外是保密的。如果他犧牲的消息傳下去，軍心士氣會大受影響，說不定有人會馬上拉出去找敵人拼命。地主、豪紳和民團，都怕吳光浩，若得知他犧牲的消息，敵人也會乘機興風(fēng)作浪。實際上徐向前就是正師長。

這時紅31師，號稱有四個團，實際上是四個大隊，每個大隊五六十人，四五十條槍。不少戰(zhàn)士扛著紅纓槍，提把大刀，有的連刀矛都沒有，徒手兵一個。一個個都和當(dāng)?shù)剞r(nóng)民一樣，破舊的衣褲，腳蹬草鞋或打著赤腳。徐向前高興而來，面對現(xiàn)實，心中不禁有些發(fā)涼。又是一次臨危受命??！一年前，在東江大山里，葉鏞師長被俘犧牲，他接替師長，收拾殘局，最后幾乎全師覆沒，被迫撤出東江地區(qū)?，F(xiàn)在，吳光浩同志剛犧牲，對外、對下層還保守著秘密，又讓他來頂替指揮。當(dāng)副司令也好，副師長也罷，為革命事業(yè)，名義他不計較，可是這局面怎么堅持？

幸得師黨代表戴克敏是個熱心人。他只有23歲，黃安本鄉(xiāng)本土人，徐向前這位黃埔軍校正牌軍人一來，戴克敏高興得像孩子似的。從早到晚，陪著徐向前說話，介紹部隊的情況。徐向前對他的話聽懂大半，能揣摩幾分。兩個人說不通了，就用筆在紙上寫幾個字，如人名、地名、難懂的詞。

徐向前到紅31師不久，6月底，趕上了“李羅會剿”。廣西軍閥羅霖率獨立第四師兩個團3？000多人，和河南土匪武裝李克邦暫編第二旅一個營，另加反動民團紅槍會1？600多人，南北夾擊，妄圖把紅31師一舉消滅掉。敵人來勢洶洶，徐向前只好“避強擊弱”，率領(lǐng)著一部分紅軍和敵人兜圈子；同時，發(fā)動群眾和各區(qū)自衛(wèi)隊日夜襲擾敵人，使敵人大部隊天天撲空，夜夜受驚。徐向前選準敵人弱點，連著進行了五次戰(zhàn)斗，每一次都把敵人打得措手不及，終于把“李羅會剿”徹底粉碎了。紅31師打了漂亮仗以后，戰(zhàn)士們才得知，吳光浩師長早在一個月前就犧牲了，他們來了位新師長。

麥收剛過不幾天，8月中旬，蔣介石命令劉峙親自出馬，組織湖北、河南兩省的軍隊，發(fā)起了“鄂豫會剿”。這位劉將軍，曾是黃埔軍校的少校戰(zhàn)術(shù)教官，徐向前該稱他“老師”。他不但教徐向前等入伍生學(xué)戰(zhàn)術(shù)，還和徐向前等一塊東征打過仗。此人是純而又純的“黃埔系”，蔣介石的親信。任過團長、師長、軍長，是戰(zhàn)功赫赫的名將。他參加過北伐戰(zhàn)爭，率軍攻打過武昌城、南昌城。1928年1月蔣介石復(fù)任國民革命軍總司令后，劉峙被任命為第一集團軍第一軍團總指揮兼第一軍軍長。北伐戰(zhàn)爭結(jié)束后，國民革命軍縮編，第一軍編為陸軍第一師，劉峙為師長，并兼任徐（州）海（州）“剿共司令”。這位黃埔的老教官，此時還不曾想到，他當(dāng)年的學(xué)生跑來大別山，成了他的對手。在劉峙統(tǒng)一指揮下，夏斗寅的13師從鄂西奔鄂東；李克邦部和河南的民團顧敬之部由北向南堵?lián)?，皖西?6師由東而西行動，四面包圍，分進合擊，第一步把紅31師一舉消滅，第二步分區(qū)“清鄉(xiāng)”、“搜剿”。