李密听杨玄感原来是这样打算的，心中暗暗叫苦：这事要坏！
李密的担心并非没有缘由，他所出的上中下三计，是经过了一番深思熟虑的。他想，如采用上计而挥兵北上，临渝关的守将赵元淑与杨玄感旧有私交，声气相通。扼守住临渝关，就能让皇上进退失据，处于狼狈境况。若用中计向西推进，关中的防卫并不强大，杨玄感的老家就在华阴，杨家又是当地大族，会获得众多族人拥戴，他所说的声威正在关中，取胜的可能甚至比北上还要大些。可是现在……杨玄感是个性情骄倨，固执己见的显贵子弟，李密的担心，就在于太了解他们了。
杨玄感决计进攻东京洛阳。他派杨玄挺率骁勇千人作为前锋，先取河内。
河内是洛阳的北方门户，两城隔黄河相望。杨玄感先攻河内，不光是为了清除进取东京的障碍，他要除掉河内郡守唐祎，以解心头之恨。起兵之前，杨玄感将唐祎召到黎阳，拉他共同举事，还封了唐祎一个怀州刺史。唐祎表面上唯喏，还跟杨玄感一起出谋划策。可是就在起兵的前一天夜里，唐祎偷偷逃回了河内。
唐祎跑回河内之后，立刻加固城防，严阵以待，并派人飞驰东京禀报，将杨玄感反叛的消息告知越王杨侗和樊子盖，让他们作好守城准备。
杨玄挺率兵进到河内，猛攻猛冲了一昼夜，城池岿然不动。杨玄挺无奈，只好改道从汲郡南渡黄河，奔向洛阳。这时候，杨玄感又派弟弟杨积善率三千兵从偃师沿洛水西进，围攻东京。他自己领三千多兵马紧随其后。
别看杨玄感人马不多，却士气正旺，沿途又有众多苦于力役的农夫纷纷投奔，队伍日益扩充。虽然都手执单刀柳盾，没有弓矢甲胄，但也浩浩荡荡，气势汹汹，竟把越王派来阻击的兵马打得落花流水。
越王派河南令达奚善意率五千精兵东阻杨积善。达奚善意渡过洛水，在汉王寺扎营。这些留守东京的士兵已多年不习武备，虽然号称精兵，却是金玉其外，败絮其中。第二天，杨积善领兵杀到，达奚善意的部下竞望风而逃，不战自溃。丢盔弃甲全被杨积善唾手得来，装备了自己。
受越王之命，河南赞治裴弘策北御杨玄挺的八千精锐，其下场与达奚善意如出一辙。裴弘策率军在白司马坂遭遇杨玄挺，一触即溃，丢弃了许多铠仗。杨玄挺并不追赶，命部下轻松地捡获了战利品，徐徐前行。裴弘策败退四五里，又收集散兵结集以待。远远地见杨玄挺的人马慢慢过来，却在不远处坐下休息，半晌不见动静。裴弘策以为杨玄挺人困马乏，动弹不得了，也想借机松弛一下。杨玄挺突然带兵杀了过来，裴弘策又落荒而逃。就这样五战五败，一直退到洛阳太阳门，裴弘策仅率十余骑逃进宫城，其余士兵都被杨玄挺俘获。
旗开得胜，一路顺风，让杨玄感大喜过望。他率兵屯驻东京东面的上春门，准备稍事休整即开始攻城。
四乡百姓听说叛军打败了朝廷的军队，纷纷牵着牛羊，抬了大坛的酒来上春门犒劳这些勇武的将士。这种从未见过的热烈场面，使杨玄感大为感动。他正想对百姓们说几句感谢的话，就见一位白胡子的长者，手捧一碗酒，颤颤微微地走到跟前，说：“大将军，老汉我听说，大将军改朝换代之后，俺百姓就用不着没白没黑地运送军粮，也不用出壮丁、服劳役了？”
老汉的问话让杨玄感浑身一震：百姓所求仅此而已！皇上，你竟忘了失民心者失天下呀！他手臂一挥，大声说道：
“诸位乡亲父老，我杨玄感身为朝廷重臣，家有财产万金，已经算得上荣华富贵了。我之所以不顾灭族之祸而起兵，就是为天下百姓解倒悬之急，救乡亲父老出水火之中啊！”
听了这些话，老汉顿时涕泪横流。他扑通一声跪在地上，双手将酒碗高举过顶，颤抖着声音喊道：
“大将军，俺老少爷们儿给你敬酒啦！”
杨玄感急忙上前两步，一手接过酒碗，一手把老汉扶起，说：“多谢乡亲们的拥戴，杨玄感绝不辜负百姓苍生！”