大业九年（613）六月初三，杨玄感遁辞将军来护儿因耽搁军期策动兵变，他须前去安定兵变为名，领兵占有黎阳，封闭城门，大索男夫。并向四周各郡发送文书，以讨伐来护儿为名，命各郡出兵会合黎阳。杨玄感任命赵怀义为卫州刺史、东光县尉元务本为黎州刺史，河内郡主为怀州刺史。并选精干运夫五千余人，船夫三千余人，杀三牲誓师，起兵反杨广。他曾立下誓词：“我身为柱国，家累万金，至于繁华无所求也，今不顾破家灭族，但为天下解倒悬之急，救黎元之命。”以获得民气，前来投奔的大众日稀有千，军队敏捷扩大到一万多人。本地的父老还竟相送来酒肉，犒劳杨玄感的军队。
杨玄感对于李密献的上、中、下三策，挑选了下策。他以为打下当时的实际都城洛阳，才气大长士气，并能够抓获文武百官的家眷作为人质，因而尽焚屯于黎阳的龙舟，率兵向东都洛阳进发，筹办进军东都洛阳，占有中原以图生长。此时留守东都的越王杨侗、民部尚书樊子盖闻知此讯大惊，仓猝聚兵抵当。
这时，远在辽东的杨广已率隋军主力回师，命虎贲郎将陈棱打击扼守黎阳的元务本，左翊卫大将军宇文述、右侯卫将军屈突通驰援东都。在东莱的来护儿也停止打击高丽，还师西进，对包抄洛阳的杨玄感构成反包抄态势。杨玄感军处于四周受敌的倒霉局面。七月20日，杨玄感接管前民部尚书李子雄、谋士李密的建议，放弃了对东都的包抄，率雄师十万西进，筹办篡夺关中。至弘农郡(今河南陕县)，被弘谷太守杨智积用计管束，迟误了贵重的三天。及杨玄感军达到闺乡(今河南灵宝)被宇文述、卫文升、来护儿、屈突通等各路隋军追上，杨玄感且战且退，一日内三败。八月月朔，杨玄感在皇天原布阵与隋军决斗，杨玄感大败，仅率十余骑逃往上洛(今陕西洛南)。杨玄感自知局势已去，乃命杨积善将其杀死，起兵三个多月遂告失利。
“夫建忠立义，事有多途，见机而作，盖非一揆。昔伊尹放太甲于桐宫，霍光废刘贺于昌邑，此并公度内，不能一二披陈。高祖文天子诞膺天命，造兹区宇，在〔玑以齐七政，握金镜以驭六龙，有为而至化流，垂拱而天下治。今上纂承宝历，宜固洪基，乃自绝于天，殄民败德。频年肆书，盗贼因而滋多，地点修治，民力为之凋尽。荒淫酒色，后代必被其侵，耽玩鹰犬，禽兽皆离其毒。朋党相扇，货贿公行，纳邪佞之言，杜朴重之口。加以转输不息，遥役无期，士卒填沟壑，骸骨蔽田野。黄河之北，则千里无烟，江淮之间，则鞠为茂草。玄感世荷国恩，位居大将，先公奉遗诏曰：“好子孙为我辅弼之，恶子孙为我屏黜之。”以是上禀先旨，下顺民气，废此淫昏，更立明哲。四海同心，九州呼应，士卒用命，如赴私雠，民庶相趋，义形公道。天意人事，较然可知。公独守孤城，势何支久！愿以黔黎在念，社稷为心，勿拘小礼，自贻伊戚。谁谓国度，一旦至此，执笔潸泫，言无所具。”
“愚有三计，惟公所择。明天子出征，远在辽外，地去幽州，悬隔千里。南有巨海之限，北有胡戎之患，中间一道，理极艰危。今公拥兵，出其不料，长驱入蓟，直扼其喉。前有高丽，退无归路，不过旬月，赍粮必尽。举麾一召，其众自降，不战而擒，此计之上也。又关中四塞，天府之国，有卫文升，不敷为意。今宜率众，经城勿攻，轻赍鼓行，务早西入。天子虽还，失其襟带，据险临之，故当必克，万全之势，此计当中也。若随近逐便，先向东都，唐?告之，该当恪守。引兵攻战，必延光阴，胜负殊未可知，此计之下也。”