但是临时修建的工事到底是临时修建的，面对日军拉上来的火炮发射的高爆榴弹则显得不堪一击。
大岛义昌在大同江南岸激战之际，佐藤正率领的第五旅团混成联队在北汉山顶上安置了12门火炮。5时正，佐藤正下令向平壤城北开炮。立见尚文率领的第十旅团听到第五旅团炮击，乘机从东面逼近平壤城北的清军工事，结果遭到了城北守将左宝贵率领的清军不到3000人的坚决抵抗。
立见尚文见堡垒难以攻克，于是命令炮兵在距堡垒800米的丘陵上安置野战炮，对堡垒进行炮击。随着流弹的轰击，清军工事接连被毁，至上午8时，在平壤城北只剩下牡丹台这个堡垒了。
随后第五旅团和第十旅团合兵一处，全力进攻牡丹台，经过一场恶战，上午8时30分日军冲上了牡丹台，并将炮兵转移到牡丹台，对玄武门及全城进行炮击。在炮兵的掩护下，日军开始向玄武门发动攻击，下午2时，日军攻占玄武门。在激战中，清军将领左宝贵受枪伤，仍指挥抵御，最后前胸中弹身亡。
日军攻取玄武门后，立见尚文向清军劝降，清军回复称现在在下雨，而且天黑了，明天再给你们答复。
得到这个回复，立见尚文知道清军并不打算投降，但相比呆在城内的清军，日军的情况要难熬的多。
此时正下雨，日军士兵激战一天十分疲惫，加上露宿在外，十分不利，而且日军的粮食也并不充足。后世的日本历史学者分析日军的情况是：“苦于粮食不足、如果连续激战两天以上，只有放弃围攻，实行退却。”
然而见左宝贵战死，没有人再跟自己别苗头的叶志超下令：“轻装持械，趁夜而退。”清军丢弃辎重，冒雨从七星门、静海门向北退去。
深夜中，大雨倾盆，清兵蜂拥出城，场面一片混乱，在混乱中损失的人数比白天的战斗还要多，叶志超带着这些残兵败将狂奔500里退回国境。
不仅如此，还丢弃各种火炮30余门，上千支步枪，数十万发弹药、粮饷和足够日军食用一