李渊惊骇宋须生守城不出，打成耐久战对本身倒霉。李世民却以为能够应战引他出来决斗。因而李渊让两个儿子领几十名马队进城察看，本身将军队分红十几队，从城东南到西南，摆出一副安营攻城的架式。宋须生公然入彀，觉得李渊要攻城，便领兵三万出战。李渊领兵假装后退，让李建成和李世民领兵抢占了东门和南门，堵截了宋须生的退路。在交兵中李渊又漫衍宋须生已经战死的谎言，摆荡了隋军的军心。隋军大败，全军毁灭。宋须生也在被守军用绳索往城墙上提时，被李渊的军头卢军谔跳起杀死。李渊顺利占据了霍邑。
617年（大业十三年）农历七月，李渊率军三万誓师，正式起兵。在公布的檄文里斥责隋炀帝听信谗言，殛毙忠良，穷兵黩武，导致民怨沸腾，“豺狼充于门路”，是以，李渊要废掉昏君隋炀帝，尊为太上皇，然后拥立代王杨侑为帝。实在，这仅仅是李渊的一种号令天下的战略。
第二战是决斗霍邑（今山西霍县）。在霍邑的西北有个贾胡堡，是霍邑的流派，但保卫霍邑的宋须生却没有派兵扼守，李渊由此鉴定宋须生是个无能之辈。
而后，李渊又攻打河东，没有攻陷。李渊服从了李世官方接入关中的建议，分兵攻长安。等围攻长安胜利建立唐朝以后，又持续围困，到620年（唐高祖武德三年）农历正月才终究占据河东。
617年（大业十二年）农历蒲月十四日的夜里，李渊命李世民在晋阳（即太原）宫城外埋下伏兵。第二天凌晨，李渊和王威、高君雅议事。刘文静领开阳府（太原十八府之一）的司马刘政会到庭中，说有密状给李渊。李渊便让他交上来，但刘会政却不交，说要告的是副留守，只要李渊才气看。李渊假装吃惊地说：“如何会有这类事？”李渊看后便对大师说：“王威、高君雅要勾搭突厥入侵。”因而命人拘系了他们二人。第二天，刚好有突厥几万人围攻太原，这更令人信赖了。李渊趁机将二人杀掉。
镇守太原之初，李渊就表示出过人的军事策画。隋炀帝从楼烦巡游到雁门时，被突厥兵包抄，因为李渊的太原兵才得以得救。隋炀帝便让他和马邑郡守王仁恭一同北击突厥。但他们的兵马很少，不敷五千。李渊便选出善于骑射的两千马队，吃住骑射仿效突厥兵，向突厥夸耀武力，等和突厥兵遭受时李渊便命令进犯，成果打败突厥。今后以后，突厥不敢再等闲南下了。
李密遭到李渊的复书也是非常欢畅，因而用心于对于东面的隋军。一东一西，两个李姓人开端了较量，但李密最后还是稍逊一筹，败在李渊部下，还丢了性命。
到618年（大业十四年）农历蒲月，隋炀帝的右屯卫将军宇文明及在江都兵变，勒死了隋炀帝，然后立秦王杨浩为帝，本身做大丞相，随后领兵十万北上，但被李密打败。宇文明及败走魏县（今河北大名东），毒死杨浩，本身称帝，建立郑国。第二年，过了天子瘾的宇文明及在聊城被窦建德杀死。
在618年，瓦岗军和洛阳的隋军作战得胜，李密想东山复兴，却遭到了部将们的反对，他只好到长安投奔李渊。李渊热烈欢迎他，当作高朋对待，常称李密为弟，还将表妹嫁给他。但厥后李密又嫌弃官小，对李渊说想回山东收伏部下，帮李渊拿下洛阳。