第四旅的将士立刻转向，向着城墙西段发起进攻。这里驻守的是第27师团的残兵，战斗力远不如第28师团。可即便如此，日军依旧负隅顽抗，他们躲在街垒后，用步枪与掷弹筒还击，每一条街巷都成了血腥的战场。
黔军23军从东侧发起进攻，102师和103师的贵州将士们擅长山地作战，他们攀着城墙外的悬崖峭壁，试图从侧面突入城内。可日军早有防备，在悬崖上布置了狙击手，不少士兵刚爬到一半，就被冷枪击中，坠入深谷。
战斗从拂晓持续到黄昏，连州城依旧岿然不动。中国军队伤亡惨重，却连城墙都没能登上。王以哲与黄百韬在指挥部里彻夜未眠，研究着破城之策。
“池田健男这狗娘养的，把连州守得跟铁桶一样。”黄百韬揉着布满血丝的眼睛，“硬攻不行，得想办法从江面突破。”
王以哲点了点头，目光投向连江渡口“日军把船都沉了，可我们还有工兵。命令工兵部队连夜赶制竹筏，明日拂晓，从渡口强渡连江，突袭南城门外的第四师团残部！”
5月9日至14日，连州城下的战斗进入了白热化。中国军队每日轮番攻城，轰炸机群也每日准时抵达，对日军的防御工事进行精准轰炸。北城门的城墙被炸开了一个又一个缺口，日军却在夜间拼命修补，双方反复拉锯，伤亡都在与日俱增。
池田健男每日都能收到冈村宁次的催促进攻电报，可他手里的兵力越来越少，弹药也渐渐耗尽。大阪师团的士兵们早已没了斗志，不少人偷偷向城外的中国军队投降。第27、43师团的残兵更是军心涣散，躲在工事里不敢露头。
5月14日深夜，连州城外下起了瓢泼大雨。豆大的雨点砸在地面上，溅起一片片水花，夜色如墨，能见度不足十米。王以哲与黄百韬抓住这个机会，发起了总攻。
工兵部队冒着大雨，连夜赶制了数百艘竹筏。拂晓时分，雨势渐小，第一军的数千名将士乘着竹筏，向着连江渡口发起强渡。湍急的江水拍打着竹筏，将士们紧紧抓着船舷，迎着日军的零星炮火，奋力划桨。
驻守渡口的第四师团残部，早已被连日的轰炸与战斗磨垮了意志。看到中国军队的竹筏驶来，他们竟纷纷丢下武器，四散奔逃。
“冲啊！”随着一声呐喊，中国军队的将士们跳上南岸，向着南城门外的日军阵地发起冲锋。池田健男得知南城失守，大惊失色，急忙调派第28师团的主力回援。可这一调动，却让北城门的防御出现了漏洞。
郭勋祺抓住机会，川军25军发起猛攻。早已蓄势待发的将士们扛着云梯，冒着日军的炮火，终于登上了北城墙。
“城墙破了！城墙破了！”欢呼声在城外响起，传遍了整个战场。
池田健男看着城墙上飘扬的军旗，知道大势已去。他拔出军刀，对着指挥部的墙壁狠狠劈下，嘶吼道“八嘎！支那人……”
就在这时，指挥部的大门被一脚踹开，几名手持步枪、上着刺刀的黔军士兵冲了进来。为首的班长厉声喝道“放下武器！”
池田健男非但没有投降，反而嘶吼着挥刀冲了上来。他的军刀劈向最前面的士兵，那名士兵反应极快，迅速侧身躲开，同时挺起刺刀，刺向池田健男的胸膛。池田健男狼狈地格挡，军刀与刺刀碰撞，发出刺耳的金属声。
另外几名士兵见状，立刻围了上来。池田健男虽然凶悍，但已是穷途末路，寡不敌众。他的军刀被一名士兵挑飞，手臂也被刺刀划破，鲜血汩汩流出。他踉跄着后退几步，眼中满是不甘与疯狂，还想扑上来肉搏，却被两名士兵死死按住肩膀。
“杀了我！支那人！给我个痛快！”池田健男歇斯底里地嘶吼着。
一名士兵毫不留情地挺起刺刀，狠狠刺入他的心脏。池田健男的身体猛地一颤，嘴里涌出鲜血，双眼圆睁，最终无力地倒在了地上。
随着池田健男的毙命，日军的抵抗彻底瓦解。中国军队在城内展开了拉网式清剿，将躲藏在民房、地窖、工事里的日军残兵一一肃清。负隅顽抗的被当场击毙。
城内的日军高级军官也难逃覆灭的结局。第27师团师团长松山祐三率残部困守西城街垒，面对中国军队的合围，他拒不投降，亲自挥舞军刀督战，最终被巴祖卡火箭炮击中工事，连人带指挥所炸成了碎片。
第28师团师团长石黑贞藏在北城门回援途中遭我军伏击，部队被切割成数段，他带着卫兵试图突围，却被巷战中的士兵识破身份，一番刺刀拼杀后，被刺穿胸膛毙命。
第43师团师团长斋藤弥平太眼看大势已去，躲进民房地窖负隅顽抗，被清剿部队发现后，拒不缴械，举枪自尽，落得个尸横就地的下场。
5月15日黎明，雨过天晴，第一缕阳光刺破云层，洒在连州城头的国旗上。这场持续了七天七夜的鏖战，终于落下了帷幕。
第一军，第三军，23军和和25军等四个军共伤亡一万两千人，其中阵亡三千，负伤九千人。
此战共歼灭日军第4、27、28、43师团残部共三万五千人，缴获火炮、机枪、步枪等各类武器万余件！
最值得庆贺的事情，是日军最引以为傲的明治维新时期初创军队的六大镇台之一的关西大阪镇台，也就是第四师团，全军覆没。
比起九一八时期让第六师团跑掉了一些火种不一样。这是中国军队第一次真正意义上的全歼六大镇台之一。
就在连州被攻下后，一系列连串反应都触动了，本在苍梧，怀集一带防御卢汉，杨森，潘文华，王陵基等部的四十一，四十二师团听闻连州失守，杨宇霆的第一集团军即将顺着连江进入珠江平原后，大惊失色，立刻决定放弃阵地，向广州转移，因为一旦行动慢了，被人切断后路，后果将非常惨烈。
同样在云浮的第六师团，在阳江的十四师团也纷纷后撤，逐步向珠江平原靠拢。
以粟谷为首的江西军队同样猛攻韶关，矶谷廉介死命抵挡，伤亡惨重。