东征返来后，刘武周返归马邑，担负鹰扬府校尉卖力练习兵士。在他造反的当时，马邑郡的太守是王仁恭，刘武周是他部下的鹰扬府校尉。刘武周是本地土豪，在马邑很有号令力，加上刘武周本人勇猛善战，是以王仁恭非常正视他，让他担负本身的亲兵队长，卖力本身的起居安然。不料这亲兵队长的职务给刘武周供应了便利，他竟然与王仁恭的一名侍妾产生了私交。
除了愈演愈烈的农夫叛逆有必然的范围外，在大隋的天下，地主阶层以及贵族在杨广的南巡后也开端举起反旗，反对杨广。
刘武周造反的处所是李渊统领之地，李渊是杨广任命的太原留守，节制太原、雁门、马邑、楼烦、西河五郡，在统领的五郡被刘武周夺了三个后，按理说最该前来弹压的就是李渊。不过李渊没有极力去为朝廷弹压兵变，因为他也在做筹办，筹办像刘武周一样造反，以是他没偶然候去理睬刘武周的兵变，这就赐与了刘武周很大的生长强大空间。
这时刘武周的地盘还只要马邑、楼烦两郡，因而刚做天子的他就尽力扩大地盘，尽力打击雁门郡。郡丞陈孝意死守雁门，拒不投降。雁门城防坚毅，易守难攻，当年始毕可汗亲身领军将杨广围困于雁门，猛攻31天，雁门城始终巍然不动，最后在隋朝勤王兵马赶到后，突厥军不得不主动撤退。面对如此坚城，刘武周也无可何如，陈孝意又不时主动反击，倒让刘武周吃了几次败仗。不过主动权始终还是在兵强马壮的刘武周手中，刘武周也不强攻，只将城紧紧包抄，企图困死雁门守军。陈孝意多次派人突围求救，但是天子杨广远在江都，陈孝意的下级李渊又心胸叵测，底子没人理他。围困一百余天后，雁门终究粮尽，陈孝意本人是绝对的忠臣，誓死守土，但他的部下们并不都情愿随他就义，眼看粮尽援绝，部将张伦就暗了杀陈孝意，开城投降。
马邑和雁门是隋朝抵抗突厥入侵的北方最火线，突厥多次打击都被守军仰仗阵势和城防击退，俄然马邑本身要求归顺，并且又是和雁门守军抵触。如此抱负的确就没有来由回绝。东突厥当即派出救兵，共同刘武周一同建议反击，成果雁门军溃败，狼狈逃回雁门。有了突厥这个背景，刘武周乘胜大肆扩大，三月。占据楼烦郡，又霸占了杨广的行宫汾阳宫，俘获了多量珍宝和宫女，刘武周就用俘虏的美女珠宝进贡东突厥始毕可汗。
率先叛逆的是刘武周，他出身大富之家。刘武周英勇迅捷长于骑射，跟刁悍任侠之徒来往密切。他的哥哥刘山伯曾警告他说：“你不加挑选地交朋结友，终究会犯灭族大罪的。”多次唾骂他，刘武周是以离家到洛阳，替太仆卿杨义臣当士卒，应召参军征讨辽东，凭军功被任命为建节校尉。
霸占汾阳宫是刘武周第一个大胜利。其意义非同小可。汾阳宫是天子的行宫之一，代表天子的庄严，宫内的美女更是天子名义上的妾侍，绝对不能获咎，刘武周竟然占据了天子的全部行宫，乃至将天子的女人当礼品送给了突厥，这从任何角度看都是与大隋天子势不两立，也是用行意向东突厥表示了高度的尽忠。始毕可汗大喜之下。立刘武周为定扬可汗。并把有狼头图徽的大旗送给他。突厥人是以狼为本身的意味，送刘武周狼头纛那是表示拿他当本身人了。受此鼓励，刘武周意气风发。干脆就自称天子，把老婆沮氏封作皇后，年号定为天兴。同时任命卫士杨伏念为左仆射，妹夫同县人苑君璋为内史令建立政权。