当杨志奉命回撤时，安庆几乎已成了一座空城。早在1月，安徽省政府已经由安庆外迁至六安。3月下旬始，日军就多次空袭城东郊。5月，日军又大规模轰炸安庆东门外的军用机场。而此时，大多机关部门已经外撤，城内学校也先后停办和疏散。一些殷实人家和商户，也纷纷逃离城区。6 月10日，杨帅获知日军舰队和波田支队向安庆进兵的情报后，于次日一大早，就疏散城内居民就分别由集贤门向十里铺、由八卦门向山口镇一带跑反。
波田支队偷袭登陆，并与144师和146师等江防部队发生交战后，杨帅就率司令部移驻到集贤门城楼。同时，杨帅密令手枪团团长杨汉印率部将城中的黄金大洋外币等悄悄运往武汉的杨公馆，并就地驻守、严加看护。
当向上方请求后撤后，又将司令部撤至集贤关观音洞。至此，守城的军警也纷纷向十里铺撤离。
杨志率部来到集贤关观音洞面见杨帅。大帅自然是一番夸奖，然后要求杨志留在司令部，随队行动。杨志有些不愿意，就说：”大帅，我们撤退以后，鬼子肯定会占据安庆，然后向潜山、太湖进兵。这一片地形都是丘陵山地，河道也多。我部完全可以利用地利到处设伏，有效消耗鬼子兵力，拖延日军进军步伐。待在司令部不是浪费兵力吗？”
杨帅听后不高兴了，训斥道：”这一个月来你打得还不痛快？老头子都收你做学生啰。鬼子一下子是打不完的，你还怕以后没机会。汉印运金子到武汉去了，我身边现在一支部队都没有，你要我当光杆司令呀，要你留下来是为了保护司令部，晓得吧。”杨帅如此一说，杨志便不好再争啦。
从日军舰队向长江上游进攻马垱后，先是着力在东流至马垱间扫雷，以开辟航道，但由于我空军的参战，一周时间日军未能突破水雷区。于是，日军改由陆路偷袭马垱山下游16公里处称为马垱之唇的香山。香山我守军第五十三师和第一六七师全体官兵抱与阵地共存亡之决心，与日军展开激烈的拼搏。后，日军使用毒气弹，突破香山阵地。五日后，日军后续陆战队乘装甲汽艇强行突破江上封锁线，由大白湖迂回马垱要塞后方彭泽登陆，致使马垱我守望军腹背受敌。此外，又因江水盛涨而高于前一年同期水位，使马垱阻塞线未能发挥预想的效果。在这种情况下，我守军被迫弃守马垱要塞。
日军占领马垱后，即以第106师团沿公路西进，波田支队则乘舰艇分批西上，合攻湖口。7月4日，日军第106师团进抵离湖口城仅10公里的老大山和走马坂，波田支队则在湖口城东北柘矶登岸，合力攻击湖口主阵地。我守军第四十三军第二十六师顽强抵抗，直至反复肉搏，终因弹药告罄，援军未及时赶达，以及日军再度使用毒气，而逐次后撤。
日军占领湖口后，乘势攻击九江。7月22日夜，日军第一线部队波田支队在九江东面22公里处的姑塘登陆，猛攻我守军第十一预备师的阵地。第十一预备师待日军刚靠近登陆点时，即从断崖上向日军猛射和投掷手榴弹。日军反复进攻，突破庐山北面险峻山地上构筑的数道阵地。24日，日军第二线部队第106师团进入波田支队左侧，并于当晚与波田支队发起对我守军的总攻击。我守军第八军第三师、第五十二军第二师、第十三军第十五师顽强抵抗，终因伤亡过重，于25日晚放弃阵地。26日，日军占领九江。
就在日军波田支队、第106师团攻占长江南岸各地的同时，江北的日军第6师团今村支队，在133师撤离后攻占了桐城。
133师在留下李介立的794团断后，向潜山、岳西方向撤退。杨帅也于七月二十日放弃安庆，将部队转移到岳西县附近集中，然后向汉口撤退。日军第6师团继续向潜山、湖口、宿松、黄梅一线攻击前进，以与江南日军相呼应。
133师的李介立团为掩护师主力后撤，在大小关山地与鬼子激战了两天；今村支队用老办法迂回偷袭，占据了三十里铺截断了安合公路，794团即与军、师部失去联系，形成被围孤军。李团长沉着应变，采取紧急办法，化整为零，编成若干小组，一面在山区与敌周旋，一面利用夜间越过舒桐间公路，取道潜江、太湖进入湖北浠水，最后撤退至汉口集中，始行向军部报到。杨帅当时不明白794团战斗情况，以为已失陷敌中，被日寇消灭，乃向委员长报告“七九四团李介立全团殉国”，当时后方各报都报导了这一消息。隔一个月后，794团全部回到汉口，才知道报上将他们列为抗战“阵亡将士”。
日军第6师团前锋部队从桐城出发，突破皖水，进抵潜山城。次日，日军攻进潜山城，我守军第三十一军第一三一师凭借街市战壕与敌厮杀，重创日军。但因日军后续部队不断增援，我军不支，于当日夜撤出潜山。日军第6师团攻占潜山稍事休整后西攻太湖。日军出动飞机猛轰太湖城，随即由东门突入城内。我守军第三十一军第一三一师顽强抵抗，但地势不利，无险可守，被迫撤离。日军于当晚占领太湖全城。
日军第6师团占领太湖后，即分兵西攻宿松和黄梅。为了守备宿松，我军第三十一军与日军激战于凉亭河畔及其附近山地，使日军迟至8月1日才进入宿松。为阻止日军进占黄梅，我军第六十八军一部和第三十一军第一三五师与日军激战于黄梅东北的花凉亭、二郎河、界岭一线和双河口、掂林铺、渡河桥、独山镇等地。8月2日，日军出动20余架轰炸机轰炸黄梅达11次，县城成为废墟。当晚，日军从北门涌入，占领黄梅县城。日军占领黄梅县城后，长江沿岸战事进入湖北境内。
统帅部令20军调到湖南浏阳、醴陵、江西萍乡等地，一面整训，一面作战斗准备。杨帅率直属部队和134师驻浏阳，133师师长杨汉域率蔡慎猷的399旅驻醴陵，周瀚熙的397旅分驻醴陵的金刚头和萍乡的上栗市，构筑阵地，准备迎战。
第6师团占领黄梅后，由于伤亡较大，又需半个师团的兵力警戒安庆—潜山—太湖—宿松—黄梅的陆上补给线，因而进攻兵力不足，遂计划在黄梅休整。
8月，长江北岸之战事主要发生在黄梅、广济一线，安庆地区转为战略后方。
7月中下旬，第五战区代司令长官白崇禧，命“第48军及第7军在六安、霍山、管家渡、磨子潭、岳西间地区集结，准备向合肥、舒城、桐城、怀宁方向攻击”。 8月8日，第21集团军廖磊部南移，加强太、宿方面兵力。8月24日，日军第11军决定放弃安庆—黄梅的陆上补给线，改由长江小池口进行补给，第6师团的警备兵力开始向前推进。8月26日3时，第87军第199师罗树甲部（其时划归第26集团军）之方既平旅和刘爱山旅，向潜山日军发动攻击，9时50分，除野寨及老岭头外，潜山克复，日军残部向安庆方面退却。8月27日，第21集团军第7军张淦部克复太湖城，白崇禧当即电饬徐源泉部向安庆、望江追击，第48军张义纯部向宿松追击。28日，第48军继续由宿松向黄梅攻击前进。至此，驻潜、太、宿的第6师团余部已基本撤离，陆续向黄梅集结。