杀掉王威和高君雅以后，李渊便和将士紧密戍守，对于突厥。他命裴寂和刘文静死守城门，同时又让大门敞开。城墙上不竖旗号，守城兵士不准张望、鼓噪，这使突厥不明秘闻，不敢入城。李渊又在夜里派兵出城，凌晨改道进城，使突厥误觉得是援兵达到。最后突厥只好退兵走了。李渊的军事智谋由此可见一斑。
李渊为了稳固太原这块按照地，北面和突厥交好，消弭隐患，南面主如果弹压了历山飞叛逆兵。李渊通过收编其残存，进一步强大了本身的力量。
然后，李渊建立了本身的根基的军事和政权机构：设置大将军府，自称大将军，宗子李建成为陇西公、左领军多数督，统领左全军；李世民为敦煌公、右领军多数督，统领右全军；裴寂和刘文静为长史司马。
617年，李渊正式任太原留守，成为一地最高长官。这里粮草充沛，兵员广漠，李渊在此扎下根来，开端积储力量。
李渊本籍陇西成纪（今甘肃秦安），他的祖父李虎，是后魏的陇西郡公，官最高到太尉，身后追封唐国公，这就是厥后李渊所建大唐年号的来源。李渊的父亲担当了唐国公的封号，在北周时任柱国大将军。在公元566年（北周天和元年）出世于长安，仅7岁就担当了唐国公的称呼。因为有了较高的出身，加上他本人的豁达与刻薄、才调出众，是以他声望很高。他的老婆窦氏也是隋朝贵族出身，作为一名可贵的贤浑家，窦氏对李渊的感化不成忽视。
隋炀帝一死，李渊便甩开了隋恭帝，在618年（武德元年）逼杨侑禅位，称帝建立唐朝，改年号为武德，定都长安。
李渊惊骇宋须生守城不出，打成耐久战对本身倒霉。李世民却以为能够应战引他出来决斗。因而李渊让两个儿子领几十名马队进城察看，本身将军队分红十几队，从城东南到西南，摆出一副安营攻城的架式。宋须生公然入彀，觉得李渊要攻城，便领兵三万出战。李渊领兵假装后退，让李建成和李世民领兵抢占了东门和南门，堵截了宋须生的退路。在交兵中李渊又漫衍宋须生已经战死的谎言，摆荡了隋军的军心。隋军大败，全军毁灭。宋须生也在被守军用绳索往城墙上提时，被李渊的军头卢军谔跳起杀死。李渊顺利占据了霍邑。
李渊大要上承诺了他的要求，公开里却派长史张宝德监督，等李密分开长安要出关时李渊却命令让他留一半兵在华州（今陕西华县）。这时，和李密同业的张宝德向李渊告发说李密要兵变，实际是张宝德怕李密跑掉本身担不叛逆务。李渊便命李密一人入朝。李密感到大祸临头，便起兵想闯出关去，成果被围歼。在和李密的斗争中，李渊充分操纵了李密高傲高傲的缺点，在开端吹嘘李密，等长安拿下后，李密投奔他时又设想撤除了这个隐患。
而后，李渊又攻打河东，没有攻陷。李渊服从了李世官方接入关中的建议，分兵攻长安。等围攻长安胜利建立唐朝以后，又持续围困，到620年（唐高祖武德三年）农历正月才终究占据河东。