陳獨(dú)秀當(dāng)選中央局書記后，不宜繼續(xù)留在廣東政府任職，于9月中旬返回上海，開始全力以赴主持中共中央的領(lǐng)導(dǎo)工作，沒想到卻與馬林產(chǎn)生分歧。

馬林認(rèn)為，“第三國(guó)際是全世界共產(chǎn)主義運(yùn)動(dòng)的總部，各國(guó)共產(chǎn)黨都是第三國(guó)際的支部，中共的工作方針、計(jì)劃應(yīng)在第三國(guó)際的統(tǒng)一領(lǐng)導(dǎo)之下進(jìn)行”。

陳獨(dú)秀則認(rèn)為，“中國(guó)共產(chǎn)黨尚在幼年時(shí)期，一切工作尚未開展，似無必要戴上第三國(guó)際的帽子，中國(guó)的革命有中國(guó)的國(guó)情”。加上馬林以共產(chǎn)國(guó)際代表的身份居高臨下，盛氣凌人，令陳獨(dú)秀心中十分不快。

尤其馬林在未經(jīng)陳獨(dú)秀同意的情況下，私自派張?zhí)赘叭毡韭?lián)絡(luò)有關(guān)事宜，完全不把陳獨(dú)秀這個(gè)書記放在眼里。當(dāng)陳獨(dú)秀返滬后聽了張國(guó)燾等人對(duì)此事的匯報(bào)，氣得公開表示，絕不與馬林見面，并打算向共產(chǎn)國(guó)際要求撤換馬林的職務(wù)。

然而，陳獨(dú)秀回滬不久，便引起了法租界巡捕房的注意。10月4日下午2時(shí)左右，陳獨(dú)秀正在二樓休息，高君曼與來訪的楊明齋、包惠僧、柯慶施三人在一樓玩牌，突然有幾名“白相人”闖入住宅，嚷嚷著要買《新青年》。高君曼見他們可能是要鬧事，好言勸說：“這里不賣《新青年》，陳先生也不在家，你們還是去別處看看吧。”

來人竟繞過高君曼，三步并作兩步直奔?jí)嵌逊拧缎虑嗄辍返牡胤?，大聲說：“這不是有嗎，明明就在賣"

陳獨(dú)秀被樓下聲音驚醒，仔細(xì)一聽不對(duì)勁，忙輕手輕腳下樓，打算從后門逃走。不料后門處早有人把守，陳獨(dú)秀被堵了回來。接著巡捕房的汽車開到門口，陳獨(dú)秀、高君曼和來訪的三名客人全部被送到法租界巡捕房。

陳獨(dú)秀被捕后，馬林積極營(yíng)救，花重金請(qǐng)來當(dāng)時(shí)上海灘赫赫有名的法國(guó)律師巴和為陳獨(dú)秀辯護(hù)。10月26日，公審公堂對(duì)陳獨(dú)秀一案作出判決：“搜獲書籍雖多，尚無激烈言論。惟查出《新青年》有違前次堂諭，判罰一百元了案”。

陳獨(dú)秀獲釋后，得知馬林設(shè)法營(yíng)救，非常感動(dòng)，不久主動(dòng)拜訪馬林，表示擁護(hù)共產(chǎn)國(guó)際，馬林則表示在中國(guó)的一切工作由中央領(lǐng)導(dǎo)，兩人達(dá)成諒解，握手言和。但好景不長(zhǎng)，1922年4月馬林從南方考察歸來，陳獨(dú)秀登門拜訪時(shí)，兩人就國(guó)共合作問題再生齟齬。當(dāng)時(shí)馬林正在起草給共產(chǎn)國(guó)際執(zhí)行局的報(bào)告，見到陳獨(dú)秀，馬林興致勃勃地說：

“這次南方之行收獲甚大，關(guān)于中國(guó)運(yùn)動(dòng)及前景，在上海我聽到的都是消極的，在南方我卻看到卓有成效的工作。”

陳獨(dú)秀聽后不由得為之一怔，想起半年前馬林派包惠僧南下廣州接陳回滬前曾指出：陳獨(dú)秀作為中國(guó)共產(chǎn)黨的書記，不應(yīng)在資產(chǎn)階級(jí)政府里做官，國(guó)際上沒有這樣的先例。如今卻對(duì)這個(gè)資產(chǎn)階級(jí)政府大加贊賞，認(rèn)為孫中山、陳炯明在南方所做的一切，正是中國(guó)革命所不可缺少的，中國(guó)共產(chǎn)黨誕生得太早了！

“在這種情況下，共產(chǎn)黨應(yīng)盡快與國(guó)民黨合作?！瘪R林堅(jiān)決地說。

“怎么合作呢？”

陳獨(dú)秀不想再與馬林發(fā)生不快，盡可能表現(xiàn)得平靜。但馬林還是從陳獨(dú)秀的目光中，看到了抵觸情緒，于是用盡可能輕松的口氣說：

“我建議，共產(chǎn)黨以加入國(guó)民黨的方式，與國(guó)民黨徹底合作?！?/p>

“加入？”陳獨(dú)秀原本性格狷急，這時(shí)候再也控制不住了，憤憤地說，“你不過是看了一個(gè)廣東省，而且是個(gè)表面！國(guó)民黨內(nèi)部四分五裂，勾心斗角，聯(lián)合軍閥，勾結(jié)土匪，最善于投機(jī)取巧，爭(zhēng)權(quán)奪利。”

正因?yàn)殛惇?dú)秀對(duì)國(guó)民黨以及其前身革命黨人抱有成見，因而他早年拒絕參加同盟會(huì)，也沒有參加辛亥革命。馬林對(duì)陳獨(dú)秀激烈的反應(yīng)大為震驚，認(rèn)為陳獨(dú)秀對(duì)國(guó)民黨抱有成見，太過偏激。隨后就此問題征求上海、北京、廣州、武漢、長(zhǎng)沙等地黨內(nèi)人士的意見，對(duì)共產(chǎn)黨加入國(guó)民黨大都持反對(duì)意見。