进攻长沙城区的鬼子第3师团被第10军狠狠拖在长沙城下。战前，薛岳曾亲自对第10军下达作战命令：“此战关系国家存亡、国际局势，必须抱着必死决心、必胜信心。薛岳若战死，以罗副长官代之，按照原定计划，围歼敌人。各总司令、军、师、团、营、连长若战死，则以副主官或资深主官代之，贻误战机者，即按革命军军法论处，绝不宽恕。”在这种指导思想下，从总司令到连排长，人人振奋杀敌，誓歼日寇于长沙城下。
第10军各部坚守城墙，依托阵地与日军反复冲杀，战斗打得异常激烈。预10师师长方先觉下令与长沙共存亡，给妻子写下了一封遗书，要求妻子在他战死后抚养儿子。若儿子长大后国土还未光复，就让儿子继承父志，继续战斗。
鬼子无法攻下长沙城，已然成为了强弩之末，于1月4日开始撤退。各路守军开始收网围歼窜入长沙外围的日军。第3师团在撤退时遭遇了74军和第4军的夹击，弹药将尽，部队陷入一片混乱，伤亡惨重，仅仅溺死的就有五百人之多，损失兵员在3000人以上。最终溃逃至第六师团处，两部一起退却，才勉强减少了伤亡。
日寇第40师团也好不到哪里去，在今井到椿桦山一带遭到我37军袭击，第236联队一名大队长和两名中队长被击毙，士兵伤亡过半。好不容易到了椿桦山，又遭到78军袭击，只得继续退却。
1月8日，鬼子第3、第6师团被我军大部队包围，阿南惟畿只得派兵来救，结果被击溃，一个大队被全歼。直到11日，这两个师团在付出惨痛代价后勉强突围，与40师团仓皇逃回新墙河，其余未逃走的部队被全部歼灭。
激战一直打到第16日，鬼子一路北撤，沿途尸横枕藉，死伤惨重。一些掉队的鬼子窜入老百姓家中，被守军士兵和村民搜杀，一些鬼子兵甚至被老百姓捉住后捆绑双手当成猪仔送去守军指挥部换钱。战后，残存的鬼子兵在回忆录中感慨：“那些扛着锄头钉耙的老百姓，一个个瘦弱无比，但皇军进村抢粮时，这些人就爆发出无穷的战斗力，队中不少人死在钉耙之下。”