孫中山?jīng)Q定在廣州樹起護法義幟，主要是因為革命黨人在那里有著比較深遠的影響和其他條件。護法的消息傳來，廣州人民集會支持。駐粵滇軍師長張開儒積極贊助護法運動。省長朱慶瀾與盤踞廣東的桂系素有矛盾，希圖引孫中山以自重。西南各省的統(tǒng)治者陸榮廷、唐繼堯等接納孫中山南下護法，則是因為他們反對段祺瑞“收復(fù)兩廣”、“制服滇黔”的武力統(tǒng)一方針，妄想利用革命的旗號，達到擴展實力和地盤的目的。因此，孫中山只能選擇廣東作為護法運動的根據(jù)地。他在抵達廣州后立即開宗明義地闡發(fā)了護法運動的宗旨，即“為國民爭回真共和”。指出“今日變亂，非帝政與民政之爭，非新舊潮流之爭，非南北意見之爭，實真共和與假共和之爭”?！犊偫硌葜v新編》，第131~133頁，南京，1930年版。“假共和之禍猶甚于真復(fù)辟”，因為赤裸裸的“帝制實不能與共和競爭”?！吨腥A新報》1917年7月29日。孫中山還建議電請海軍來粵，迅速在穗召開國會并邀請被段祺瑞排斥的黎元洪南來執(zhí)行總統(tǒng)職務(wù)。

孫中山面臨的首要任務(wù)，當然是建立護法運動的領(lǐng)導(dǎo)機構(gòu)。在他的積極推動下，南下的議員們于8月下旬舉行了國會非常會議(因為不足法定的議員人數(shù))。會議制定了《中華民國軍政府組織大綱》，規(guī)定軍政府的任務(wù)為戡定叛亂、恢復(fù)臨時約法；在約法效力未完全恢復(fù)前，中華民國行政權(quán)由大元帥行使；大元帥對外代表中華民國?！秶鴷浅h紀要》，《議決案》，第2~4頁。旋即選舉孫中山為大元帥，唐繼堯、陸榮廷為副元帥。9月10日，孫中山就任大元帥職，表示“當竭股肱之力，攘除奸兇，恢復(fù)約法”?！盾娬妗返?號。

為使軍政府成為西南各省護法斗爭的“軍事最高統(tǒng)一機關(guān)”，孫中山在桂系軍閥的限制和壓抑下展開了積極的活動。軍政府的大部分作為，都是對軍閥頭子抗爭的結(jié)果。內(nèi)政方面，軍政府爭取到一定的司法權(quán)，得以“興利除弊，察吏安民”。財政方面，始終極其困難。自軍政府部長到辦事員，每人月支零用費20元。孫中山委托廖仲愷慘淡經(jīng)營，愛國僑胞的百余萬元的捐款起了很大的支撐作用。發(fā)行公債和向外交使團、駐粵稅務(wù)司力爭提存鹽稅余款，僅有小補。軍事方面，孫中山極力促進各省討伐北洋軍閥，先后派出于右任、林祖涵、何成浚、劉冠三等分赴陜西、湖南、湖北、山東等地，發(fā)動和組織軍事斗爭。10月上旬，發(fā)生在衡山、寶慶的南北兩軍的戰(zhàn)斗標志著護法戰(zhàn)爭的開始。孫中山隨即發(fā)布討伐段祺瑞令，指斥他“陽托共和，陰行帝制”，業(yè)已成為“共和之蟊賊，人民之大蠹”，號召全國各界奮起“討滅偽政府，還我約法，還我國會，還我人民主權(quán)”。《中華新報》1917年10月12日。實際斗爭使孫中山迫切感到需要建立一支真正服從革命號令的武裝力量，他把這樁重任交付給陳炯明。經(jīng)與桂系軍閥頭子反復(fù)交涉，才將朱慶瀾離粵后遺下的省長親軍20個營改編為援閩粵軍開赴粵東。孫中山苦心孤詣地培植這支部隊，在財政極為拮據(jù)的情況下月?lián)苘娰M6萬元。經(jīng)過整訓，粵軍的質(zhì)量有了明顯的進步。