大業(yè)十三年（公元617年）六月初五，以李淵為首的政治軍事集團(tuán)正式在太原起兵。

隋亡唐興的歷史大幕就此拉開。

李淵集團(tuán)的戰(zhàn)略目標(biāo)非常明確，就是直取隋帝國的政治心臟——西京長安。

要進(jìn)軍長安，首先必須攻克西河郡（今山西汾陽市）。

李淵把這個(gè)首戰(zhàn)的任務(wù)交給了李建成和李世民兄弟。初出茅廬的李氏兄弟不負(fù)眾望，輕而易舉地拿下了西河郡，輕松漂亮地完成了他們軍事生涯的處女作。軍隊(duì)凱旋后，屈指一算，前后僅歷時(shí)九天。李淵大喜過望地說：“如此用兵，足以橫行天下了！”

首戰(zhàn)告捷。李淵更加堅(jiān)定了南下關(guān)中、西取長安的決心。

這一年六月十四日，李淵置大將軍府，自立為大將軍，以裴寂為長史，劉文靜為司馬，唐儉和溫大雅為記室，武士彟為鎧曹，殷開山為戶曹，長孫順德、劉弘基等人為左右統(tǒng)軍；同時(shí)以李建成為隴西公、左領(lǐng)軍大都督，統(tǒng)率左三軍；以李世民為敦煌公、右領(lǐng)軍大都督，統(tǒng)率右三軍；以柴紹為右領(lǐng)軍府長史；其余文武將吏也各有任命。

七月初四，李淵以李元吉為鎮(zhèn)北將軍、太原留守，讓他鎮(zhèn)守后方根據(jù)地。初五，李淵召集全軍誓師，發(fā)布了聲討楊廣、“匡扶”隋室的檄文，傳檄四方郡縣。此前，李淵命劉文靜出使突厥，暫時(shí)向始畢可汗稱臣，以便穩(wěn)住突厥人，并要求他們?cè)谡魏徒?jīng)濟(jì)上提供援助。隨后，李淵親率三萬精兵從晉陽出發(fā)，正式踏上了開創(chuàng)帝業(yè)的征程。

七月八日，李淵率部進(jìn)抵賈胡堡（今山西汾西縣北）。此堡南面五十多里處，就是隋將宋老生重兵據(jù)守的霍邑（今山西霍州市）。

在這里，李淵軍隊(duì)陷入了一個(gè)進(jìn)退兩難的困境。

首先是因?yàn)檫B日天降大雨，道路泥濘難行，軍中糧草即將告罄，而派回太原運(yùn)送補(bǔ)給的車隊(duì)又遲遲沒有返回。其次，軍中開始傳出謠言，說突厥人已經(jīng)變卦，準(zhǔn)備聯(lián)合劉武周襲取太原，因而軍營中人心惶惶。

這時(shí)候，多數(shù)將士打起了退堂鼓，紛紛要求班師。而李建成和李世民卻據(jù)理力爭(zhēng)，堅(jiān)決反對(duì)撤兵。李淵猶豫再三，最后采納了他們的意見，決定天氣轉(zhuǎn)晴后立刻攻打霍邑。

自助者天助之。李淵父子的堅(jiān)持最終也感動(dòng)了上蒼。七月底，來自太原的糧草和補(bǔ)給終于運(yùn)到。幾天后，天空也放晴了。八月初三，李淵率全軍迅速兵臨霍邑城下，以激將法誘使宋老生出城迎戰(zhàn)。雙方接戰(zhàn)后，李淵與李建成假裝受挫，往后退卻。李世民則與段志玄率精銳騎兵從背后突擊宋老生。隋軍腹背受敵，頓時(shí)潰敗，宋老生被殺，所部三萬人也全部被殲。李淵父子隨即攻克霍邑。

這是李淵出師以來取得的第一場(chǎng)勝利，極大地鼓舞了士氣。進(jìn)入霍邑后，李淵當(dāng)即論功行賞。軍中負(fù)責(zé)授勛的官吏提醒他說：“奴仆出身的人，似乎不該跟一般戰(zhàn)士同等待遇。”李淵不以為然：“飛石流箭之間，不分誰貴誰賤；為何評(píng)定功勛的時(shí)候，卻要分尊卑等級(jí)呢？應(yīng)該完全平等，有什么功，受什么賞！”

隨后，李淵軍迅速南下，一路勢(shì)如破竹，八月八日占據(jù)臨汾郡（今山西臨汾市），八月十三日攻克絳郡（今山西新絳縣），八月十五日進(jìn)抵黃河?xùn)|岸的龍門（今山西河津市）。同時(shí)，劉文靜也帶著五百名突厥士兵和二千匹馬趕來與李淵會(huì)合。

劉文靜的歸來無疑讓全軍上下都吃了一顆定心丸。因?yàn)閷⑹總冊(cè)僖膊挥脫?dān)心太原（最主要的是城中的妻兒老小）會(huì)被突厥人偷襲，于是越發(fā)堅(jiān)定了西進(jìn)關(guān)中、奪取長安的信心和斗志。