七月，李渊命李元吉留守太原，亲自率军3万，在西突厥兵协助下，向长安进发。长安代王杨侑派虎牙郎将宋老生、骁卫大将军屈突通抵御李渊。李渊南下逼进霍邑（今山西霍县），正赶上连雨，军队缺乏粮食，李渊、裴寂准备返回太原，李世民哭谏，他说：“现在正是收获季节，田野到处都是菽谷，何必担心粮食不够？如果遇到抵抗就班师撤兵，恐怕将士解体，大势已去。”李建成支持李世民的主张，也反对退回太原，李渊才同意与隋军在霍邑交战。战斗开始之前，李渊、李建成在城东列阵，李世民在城南列阵，太原兵初战不利，李世民从城南率骑兵直冲隋将宋老生阵，从背后夹击隋军。李渊与李世民合击，隋军腹背受敌，遭到惨败，宋老生被杀，霍邑被攻克。随后李渊相继攻克临汾郡和绛郡（今山西新绛县），进逼龙门（今山西河津县西北），关中势力最大的一支武装孙华和冯翊（今陕西大荔县）太守萧造投降李渊。
　　
　　九月，李渊率兵围攻河东（今山西永济县），隋将屈突通固守，久攻不克。裴寂认为应不惜任何代价攻下河东，然后再进入关中，李世民则认为兵贵神速，应该直捣关中。这两种意见都有道理，如果不消灭屈突通而直接入关，那么前面有长安隋军，后面有屈突通援兵，李渊会腹背受敌；如果老师疲兵围攻河东，关中隋军就有充分时间组织有效抵抗，会失去战机。李渊权衡两种意见，各取其长，分兵两路，留诸将围攻河东，牵制屈突通，自己率领李建成、李世民大军攻取长安。李渊率军迅速渡过黄河，派李建成扼守潼关，阻挡关东隋军，李世民自渭北进入三辅，关中各支武装纷纷投降李渊，稳定了关中局势。
　　
　　十一月，李渊汇合李建成、李世民、刘弘基之兵20余万攻打长安，下令军中，不许侵犯隋朝七庙和代王宗室，违令者夷其二族，遂命诸军攻城，军头雷永吉率先登上城头，京城长安被攻克。李渊在长安迎立代王杨侑为傀儡皇帝，自任使持节、大都督内外诸军事、尚书令、大丞相，加封唐王，与民约法12条，废除隋朝苛政，得到了关中地主阶级的支持和拥护。次年五月，李渊废掉杨侑，自立为帝，建立唐朝。
　　
　　李渊从太原起兵到攻克长安，只有短短的5个月时间。原因何在呢？总的形势是隋末农民战争打垮了腐朽的隋朝统治，牵制了隋军大量兵力，使隋朝统治集团无力西顾，关中空虚，不能和新兴的李渊集团抗衡，这是总的战略形势决定的。在攻取长安的过程中，李渊父子运用战术巧妙，如与关东李密联合，拖住隋军无暇西顾，入关后立即屯兵潼关，阻住了隋朝援军。具体战术运用方面当机立断，不失时机，如在攻打河东与进军长安时双管齐下，收效显着。事实证明，这种布署是成功的，长安失陷以后，屈突通看到隋朝大势已去，开城投降了李渊。李渊进军途中秋毫无犯，得到了关中地主阶级支持，减少了阻力，因而能够迅速攻占长安，奠定了兴唐基础。

（责任编辑：花眠）