当杨志奉命回撤时，安庆几乎已成了一座空城。早在1月，安徽省政府已经由安庆外迁至六安。3月下旬始，日军就多次空袭城东郊。5月，日军又大规模轰炸安庆东门外的军用机场。而此时，大多机关部门已经外撤，城内学校也先后停办和疏散。一些殷实人家和商户，也纷纷逃离城区。6 月10日，杨帅获知日军舰队和波田支队向安庆进兵的情报后，于次日一大早，就疏散城内居民就分别由集贤门向十里铺、由八卦门向山口镇一带跑反。
波田支队偷袭登陆，并与144师和146师等江防部队发生交战后，杨帅就率司令部移驻到集贤门城楼。同时，杨帅密令手枪团团长杨汉印率部将城中的黄金大洋外币等悄悄运往武汉的杨公馆，并就地驻守、严加看护。
当向上方请求后撤后，又将司令部撤至集贤关观音洞。至此，守城的军警也纷纷向十里铺撤离。
杨志率部来到集贤关观音洞面见杨帅。大帅自然是一番夸奖，然后要求杨志留在司令部，随队行动。杨志有些不愿意，就说：”大帅，我们撤退以后，鬼子肯定会占据安庆，然后向潜山、太湖进兵。这一片地形都是丘陵山地，河道也多。我部完全可以利用地利到处设伏，有效消耗鬼子兵力，拖延日军进军步伐。待在司令部不是浪费兵力吗？”
杨帅听后不高兴了，训斥道：”这一个月来你打得还不痛快？老头子都收你做学生啰。鬼子一下子是打不完的，你还怕以后没机会。汉印运金子到武汉去了，我身边现在一支部队都没有，你要我当光杆司令呀，要你留下来是为了保护司令部，晓得吧。”杨帅如此一说，杨志便不好再争啦。
从日军舰队向长江上游进攻马垱后，先是着力在东流至马垱间扫雷，以开辟航道，但由于我空军的参战，一周时间日军未能突破水雷区。于是，日军改由陆路偷袭马垱山下游16公里处称为马垱之唇的香山。香山我守军第五十三师和第一六七师全体官兵抱与阵地共存亡之决心，与日军展开激烈的拼搏。后，日军使用毒气弹，突破香山阵地。五日后，日军后续陆战队乘装甲汽艇强行突破江上封锁线，由大白湖迂回马垱要塞后方彭泽登陆，致使马垱我守望军腹背受敌。此外，又因江水盛涨而高于前一年同期水位，使马垱阻塞线未能发挥预想的效果。在这种情况下，我守军被迫弃守马垱要塞。
日军占领马垱后，即以第106师团沿公路西进，波田支队则乘舰艇分批西上，合攻湖口。7月4日，日军第106师团进抵离湖口城仅10公里的老大山和走马坂，波田支队则在湖口城东北柘矶登岸，合力攻击湖口主阵地。我守军第四十三军第二十六师顽强抵抗，直至反复肉搏，终因弹药告罄，援军未及时赶达，以及日军再度使用毒气，而逐次后撤。