被擒的恐慌之下，许多隋军将士溃散而走，影响同伴斗志，滚雪球一般造成大量士兵陷入慌乱状态，士气如虹的李渊叛军乘机狂冲猛打，隋军大败而逃，庞玉努力约束无效，又见大批叛军向自己冲来，胆怯之下赶紧拍马而走，带着亲兵逃向北门，李渊父子全力追杀，说什么都不肯错过这个破敌机会。
数量庞大的隋军败兵给叛军打了免费前锋，压住了吊桥无法升起，堵住了城门无法关闭，久疏战事的霍邑城又不象虎牢关那样，在城门上方悬挂有夜叉擂可以在关键时刻阻挡人流，霍世举在城上大吼大叫命令赶紧关门，城门兵却死活挡不住如潮人流，推搡之下，隋军城门官还无比倒霉的被人潮冲倒，被自家败兵活生生踩死，门兵胆怯下更不敢阻拦，后面的李渊叛军乘机尾随而上，先是砍断吊桥绞索，接着跟随隋军败兵人流冲入城内，夺占了城门要地。
再无任何悬念，隋军主将庞玉虽然也侥幸逃进了城内，但士气低落的隋军将士却根本挡不住李渊叛军的前进脚步，拣到了天降大馅饼的叛军上下人人争先，个个奋勇，杀得仓促迎战的城内隋军无法招架，霍世举几次组织军队巷战拦截，试图夺回城门，也都被势不可挡的叛军几下子打溃，最后随着攻入城内的叛军士兵越来越多，在城内占据的区域越来越大，庞玉与霍世举也没了办法，只能是匆匆领了残兵败将弃城而逃，叛军乘机夺占霍邑，同时分兵追杀隋军败兵，拼命削弱隋军的作战力量，不过庞玉和霍世举喘息机会。
大胜后的李渊叛军当然是一片欢腾，李渊又下令给辅兵与战兵同样的犒赏后，欢呼声陡然又加大了数倍，数量居多却赏格较少的叛军辅兵个个喜形于色，无不庆幸自己跟对了人，觉得为老李家卖命十分值得，锦上添花的是，此刻偏巧了叛军偏师张纶部神速攻占离石郡、擒杀拒绝投降的离石太守杨子崇的消息，叛军队伍里的欢呼声更是一下子达到了顶点，攻占大兴、拥立代王的振臂口号声响彻全军全城，军心振奋到了极点。
看到这样的热烈场面，李建成、李二兄弟和李渊军高