中午前后，在日军猛烈炮火轰击下，中华门及其以西城垣数处倒塌，一部日军在炮火掩护下由缺口突入城内。
第88师遂即撤走。当时中华门内大批居民为逃避炮击和日军，纷纷向城北部难民区逃跑，与溃退的散兵拥挤在街道上，城中秩序开始陷于混乱。
卫戍司令部为了有计划、有组织地实施撤退，于14时指示第36师负责维持城中及下关的秩序。
但此时日军第6师团一部已突入至中华门内，第16师团及第3师团已逼近中山门及光华门，第6师团左翼旅已逼近水西门。
守军第2军团退至乌龙山，教导总队退至紫金山，第74军派人去三汊河架设浮桥，企图渡江撤退至浦口，被第36师制止，南京守军已开始呈动摇态势。
唐生智等决定改在当夜撤退。蒋介石虽然致电唐生智，令其在不能持久时相机撤退，但总从政治方面考虑较多，希望能多守一段时间，因而在12日又以致函形式致电唐生智、罗卓英及刘兴，提出他自己的企望。
12月12日17时，卫戍司令部召集师以上将领开会，布置撤退行动。
唐生智首先简要地说明当前战况，询问大家是否还能继续坚守。与会将领无一人发言。唐生智遂出示蒋介石命守军相继撤退的电令，即由参谋长周斓分发了参谋处已油印好的撤退命令及突围计划。
卫戍司令部突围计划的基本精神是大部由正面突围，一部随司令部由下关渡江。
但在书面命令分发后，唐生智又下达了口头指示，规定第87师、第88师、第74军及教导总队“如不能全部突围，有轮渡时可过江，向滁州集结”。
这就大大降低了命令的严肃性，也为不执行命令制造了借口，以致计划中规定的由正面突围的部队，除广东部队第66军及第83军之大部按命令实施突围外，其余各军、师均未按命令执行。
有口头指示为依据的部队，必然一起拥向敌人尚未到达的下关，以便迅速、安全地渡江北撤；许多未接到撤退命令的部队因发现友军撤退而撤退。
而虽接到命令却并不知道撤退计划详情的旅、团长们也都认为上级既然要军队撤退，在下关必然已准备好大量渡江工具，因而亦皆拥向下关。
自行决定由下关渡江的军、师长大多未按命令规定的时间开始撤退，而是在散会后立即部署部队撤退。
有的单位在接到命令前即已撤走。
如卫戍司令部第2军团负责固守乌龙山要塞以掩护其他部队撤退和突围，应最后撤退，但徐源泉于12日下午即率其第41师和第48师从周家沙和黄泥荡码头乘坐其预先控制于该处的民船最早渡至江北，经AH去江西整顿。