杨玄感出兵迎战卫文升。他身先士卒，每战必手执长矛冲锋陷阵，隋兵大为震骇，惊呼为项羽再生。双方经过多日交战，隋军数战皆败，士卒几乎伤亡殆尽，加之粮草不继，卫文升只好率残部退守邙山南麓。杨玄感乘胜追击，准备将隋军全歼。不料，他的弟弟杨玄挺竟然在混战中被流箭射死，杨玄感不得不稍稍退却。
就在洛阳岌岌可危、卫文升又濒临绝境的时候，隋朝的远征军终於回师中原。
战场上的形势开始逆转。
杨广命虎贲郎将陈棱进攻杨玄感的根据地黎阳，命右侯卫将军屈突通进驻河阳（今河南孟州市），命左翊卫大将军宇文述率大军随后跟进，又命来护儿从东面驰援东都。
一切都在李密的预料之中，甚至比李密预料的更遭——起事还不到一个月，天下之兵已经蜂拥而至。
然而，此时的杨玄感仿佛没有意识到危险的来临。他不但日渐疏远李密，转而信任别的谋士，而且还在部将李子雄的煽动下企图称王，只是被李密劝阻才悻悻作罢。李密对左右感叹道：“楚公热衷於造反，却不知道如何取得最终的胜利，我等现在尽成瓮中之鳖了。”面对隋朝大军对他形成的反包围，杨玄感再次犯下了一个不可饶恕的战略错误。他听信李子雄的计策，把本来就不多的兵力分成两路，一路抵拒已经屯兵黄河北岸的屈突通，一路继续进攻卫文升。但是，屈突通很快就突破了他的防线，顺利渡过黄河，与卫文升部和洛阳城中的樊子盖部遥相呼应，对杨玄感形成了前后夹击之势。
杨玄感败局已定。
直到此刻，他才决意实施李密当初提出的中策——西进关中，据守长安。
大业九年七月二十日，杨玄感无奈地解除了对东都的包围，率部西进潼关。宇文述与屈突通、来护儿、卫文升等人合兵一处，率大军在背后拚命追击。
数日后，杨玄感进至弘农（今河南三门峡市）。时任弘农太守的蔡王杨智积（杨坚侄子）对左右说：“杨玄感西取关中的计划一旦成功，将来就很难收拾了。我们现在想办法套住他，让他无法西进，不出十天，定可将其生擒！”杨智积随后派了一些父老，出城拦住杨玄感的马头，说：“如今弘农兵力薄弱、防守空虚，但囤积了很多粮草，很容易攻取。”杨玄感信以为真，立即兵临弘农城下。杨智积顺势登城叫骂，诱他攻城。杨玄感果然大怒，命令士兵停止西进，开始进攻弘农城。
面对如此不可救药的杨玄感，近乎绝望的李密最后一次规劝他：“用兵之道贵在神速，何况追兵转眼立至，岂能在此逗留！如果进不能入据潼关，退又无险可守，大军一旦溃散，你拿什么保全自身？”可是，杨玄感却什么都听不进去。
杨智积略施小计，就把他牢牢锁定在了弘农城下。事实上，弘农城并不像那几个一脸厚道的父老所说的“兵力薄弱、防守空虚”，而是兵力强大、城防坚固。
杨玄感猛攻三天，弘农城纹丝不动。等到杨玄感回过神来准备放弃弘农、继续西进的时候，宇文述的几十万大军已经铺天盖地地杀到了。
杨玄感布阵五十里，且战且退，可一天之内三战皆败。
八月初一，杨玄感退至董杜原（今河南灵宝市西），在这里被迫与隋军进行决战。
战斗的结果可想而知——杨玄感全军覆没，仅带着十余骑兵逃奔上洛（今陕西商州市）。到最后，连那十几名亲兵也各自逃散，杨玄感身下的坐骑也被射杀，只好和他的弟弟杨积善徒步逃亡，来到了一个叫“葭芦戍”的地方（今河南灵宝市西南）。
那一年秋天的旷野上，杨玄感和杨积善就这样没命地奔跑着，远远看上去就是两个小黑点，在辽阔苍茫的天地之间微微蠕动。
最终，杨玄感停下了脚步，对杨积善说：“我不能接受别人的杀戮和侮辱，你取我的性命吧。”当生命与尊严二者不可得兼时，贵族杨玄感宁可选择后者，也绝不让自己的生命只靠蠕动来延续。
没有人知道杨积善手起刀落的那一刻，杨玄感脸上是一种怎样的表情。也许那上面什么都有，诸如困惑、悔恨、痛苦、愤怒、绝望等等，也许什么都没有，只有一脸木然。
杨积善杀掉杨玄感后，企图自刎，但下手不够狠，仅仅在脖子上抹了一道口子，随即被追兵抓获，与杨玄感的屍体一起被送到了杨广面前。杨广盯着杨玄感那颗污血凝结的头颅，大感快意，但仍觉余恨未消，遂下令在洛阳闹市寸磔杨玄感的屍骸，将其切成碎块，剁成肉酱，最后扔进火中烧成了灰烬。
杨积善向杨广苦苦求饶，自称他曾手刃杨玄感，希望以此微功乞求活命。杨广瞪着他看了很久，扔下一句话：“倘若如此，那你更是一只可恶的枭鸟！”遂把杨积善的姓改为“枭”，然后命文武百官或用刀砍，或拿箭射，一直把杨积善砍得血肉模糊、射得像一只刺蝟，最后才把他的屍体车裂。
杨玄感自大业九年六月初三在黎阳起兵，到八月初一兵败身亡，前后还不到两个月。
他的突然崛起炫人眼目，而他的灭亡却和他的崛起一样迅速。
我们说过，捷径的同义词就是短路。
杨玄感叛乱虽然旋起旋灭，但它给杨广和隋帝国刻下的政治伤口却没那么容易愈合。自从这场叛乱之后，杨广无奈地发现：自己的政治威望已经被严重削弱，人气指数急剧下滑，降到了他即位以来的最低点。
还有什么，比这个更能让一个骄傲的帝王感到失望和恼怒的呢？
杨广决定大开杀戒，借以震慑天下，重塑威望。他对负责追查杨氏同党的大臣说：“杨玄感振臂一呼，从者十万！以此足以证明，天下的人口太多也不是什么好事，太多了就会相聚为盗。此次的一干人犯若不彻底追查、一概诛杀，就无以警醒当世、惩戒将来！”在杨广的旨意下，大臣们依照宁枉勿纵的原则开始大肆株连，上至当朝大员，下至普通士民，一口气捕杀了三万多人，流放了六千多。此外，由於杨玄感围攻东都时曾经开仓赈粮，於是朝廷便将当时接受赈济的百姓全部活埋，一个也没有放过。
至此，这个世界上曾经跟杨玄感有过丝毫瓜葛的人，几乎都被无情地抹掉了。
只有少数漏网之鱼逃过了这场大屠杀。
其中一个就是李密。
早在杨玄感兵败之前，李密就已悄悄离开了他，准备投奔其他义军，不料半路上被隋军抓获。李密用黄金贿赂看守，使他放松了管制，然后趁其不备再度逃亡，投奔了平原郡的变民首领郝孝德。
兵慌马乱中，隋朝官吏以为漏掉的只是一只小虾米。
可他们没想到，短短几年后，这个叫李密的人就成了一条翻江倒海的大鱼。