胡家坪、畔冲不断有伤亡的将士从阵地上抬下去，又不断有新2军的将士前仆后继奔向战场。胡家坪、畔冲一带成了绞肉机。中、日两军都死伤惨重，但阵地依然牢牢掌握在新2军的手中，第3师团、第37师团相距不过2公里，但始终无法会合。
湘江西岸围歼第68师团的战斗已经结束，顾不上打扫战场，薛岳立即命令第74军支援衡阳东，第8军也暂时不去宁乡了，与第74军一道过了湘江。
横山勇慌了手脚，他手中已经无兵可派了。横山勇紧急向中国派遣军司令烟俊六求援，烟俊六紧急抽调驻守南京的第15师团主力，沿长江乘船前往湖南长沙。同时电令冈村宁次南下，接替横山勇指挥。为避免临阵换将产生混乱，保留了横山勇第11军司令官职务，命令还由他来签发来，但指挥权划归冈村宁次。
冈村宁次一直在关注衡阳战况，衡阳战局的突变也出乎他的意外，当第116师团被围攻时，他曾致电横山勇，委婉提出放弃第116师团，横山勇拒绝了。冈村宁次也非常理解横山勇的选择，皇军还从来没有放弃过一个师团的历史。冈村宁次接到畑俊六的电报，立即坐飞机南下，来到前进指挥部，见到了满头白发的横山勇，横山勇已被衡阳突变击垮了。冈村宁次急忙向横山勇了解了衡阳当前的形势，他也呆住了。
这时一份电报又送到横山勇案头，这是第37师发回的电报，曾家码头遭到第8、74军攻击，泉溪遭到新6军攻击。冈村宁次与横山勇面面相觑。难题摆到了冈村宁次的面前。是保证第37师团的安全，还是执意解救第3师团、第34师团2个联队及第8师团残部。这个决心不好下。横山勇望着冈村宁次，冈村宁次内心在煎熬，此时他充分体会到横山勇当时的心情。两人沉默半个小时，冈村宁次最终下定决心，命令第37师团保证曾家码头的安全。横山勇已经知道冈村宁次抛弃了南线以第3师团为主力的日军，这个决定横山勇也不知道是对是错，但他知道下这个决定的艰难，下了这个决定后就意味着后面不任战局如何，冈村宁次都将在战后遭受指责，可能指责还是最轻的。横山勇想到如果他当初下令抛弃第116师团，如今第3师团绝对不会被围。横山勇签署了命令，他对冈村宁次言道：\"这个决定是在您来之前我作的决定，我负完全责任。\"
衡阳东第37师团按照命令退守曾家码头，最终被第8军、第74军逼过了洡水，退回了泉溪。第37师团退回泉溪后，立即携第34、58师团残部向北退却，新6军跟在第37师团之后不断收复失地。
戴海欧新2军松了一口气，被日军南北夹击的滋味不好受。短短5天的时间，新2军人员伤亡已超过了6成。以第3师团为主力的南线日军彻底成为了一支孤军，面对国军8个军的围攻，他们的命运已经注定，不是被俘、就是被消灭。第3师团师团长山本三男命令各部顽抗到底，为第3师团及第34、58师团残部撤离争取时间。
株州第17混成旅团主力遭到了从醴陵过来的第58、72军的攻进，第100军从湘潭偷渡湘江，也加入了进攻的行列。就在第17混成旅团即将崩溃之际，第37师团赶到，击破了第58、72、100军的拦截，日军全军退往长沙。
衡阳东以第3师团为主力的日军坚持战斗了3天，终于全军覆没了。第3师团师团长山本三男、第58师团师团长毛利末广，第34师团师团长伴健雄在日军覆没之前剖腹自杀，加上前期剖腹自杀的第116师团师团长岩永汪，被击毙的第68师团师团长佐久间为仁，衡阳会战日军死亡了5个师团长，成建制歼灭了3个师团：第116师团、第68师团、第3师团。消灭了第58师团主力，歼灭了日军第43师团2个联队。这是抗战全面爆发以来，前所未有的大胜。
衡阳东战斗完成后，第8军沿湘江西岸北上，第74军、第71军、第26军沿湘江东岸北上，新2军，第79军、第20军沿安仁、攸县、醴陵北上，第62师团南下广东回归建制。
薛岳、林蔚惊讶于横山勇的果决（他们不知道后期日军决策由冈村宁次决定），株州的拦截没有起到太大作用，两人都希望横山勇能让日军在长沙多停留一些时间，待国军3路
大军到达后再消灭一、两个师团就最好了。可事实令他俩失望了，日军只在长沙停留了一天，就向北撤退了，中途第15师团赶到接应。新6、58、72军尾随追击。日军撤退也遭到了留守湘北的国军袭扰，但日军总体损失不大。第5军跨过湘江收复长沙，第58军、第72军收复浏阳。2天后第26、71、74军抵达长沙，第8军到达宁乡。
薛岳、林蔚也回到了长沙，薛岳命令新2军、第71军、第74军3个军从湘北北上压迫，第5军、第8军、第79军、第100军4个军军从湘西北上，第5、6战区配合压迫。
湖北日军到处都是漏洞，在冈村宁次的授意下，日军调整了部署。横山勇签署了命令，日军全面收缩。西线放弃宜昌，中线放弃南县、安乡、岳阳，西线放弃南昌及赣北，保留长江沿线瑞昌及九江，兵力向武汉集中，稳住了湖北摇摇欲坠的形势，国军顺势收复了失地。日本大本营大佬们听闻第11军放弃了如此多的地方，顿时勃然大怒，致电中国派遣军司令畑俊六，要求他对冈村宁次及横山勇严厉斥责，并让两人回国上军事法庭。在畑俊六的斡旋下，横山勇承担了所有的责任，回国调入预备役，冈村宁次反而掌握了武汉第11军。