在山东开了十几台大功率电台,不停向外发出指令,国军误认为华东野战军主力依然在山东。使徐州剿匪总司令部部署调整、兵力调动也趋缓慢。11月1日中共中央军委决定中原野战军7个纵队,共约15万人,以及部分地方部队与华东野战军共同进行淮海战役,参战兵力达到60万人。实际上,约50万解放军开始从不同方向秘密夜行,在国军不知情下扑向徐州。
徐州剿匪总司令部总司令官刘峙作战无能,故在战斗前,国军布阵极为不利,与解放军作战处于被动及被分割攻击。国军尚未按“徐蚌会战计划”南移,11月5日,刘峙见国军各兵团均已报告在正面发现解放军主力有扑向徐州之势,便遵从蒋介石之意,将徐州周边部队向徐州收缩靠拢,然后再图向淮河一线撤退。命令黄百韬第7兵团、李弥第13兵团退回徐州东郊,经蒙城向蚌埠调动的孙元良第16兵团经宿县北上退回徐州,邱清泉第2兵团退回徐州西郊,死守徐州。11月6日,国军调动华中剿匪总司令部的12兵团进至太和、阜阳地区东援,徐州、蚌埠战场国军兵力增加到70万人。
华东野战军按计划于11月6日夜间发起淮海战役,各部队向预定目标开进,发现国军正在收缩,当即转入追击。黄百韬第7兵团因奉令等海州第9绥靖区的第44军西撤,推迟至7日西开。华东野战军借这此延误,追上正在渡大运河的第7兵团,负责殿后之第7兵团第63军、第100军83师被迅速歼灭。黄百韬见势不妙,希望李弥第13兵团协助撤退。李弥拿出刘峙命令,执意按计划回撤,拒绝援助。此时徐州南方战况,由于宿县之孙元良第16兵团北撤徐州,而协防宿县之刘汝明第4绥靖区也向南撤。由于刘峙指挥慌乱,蒋介石决定11月10日把杜聿明调回任徐州剿匪总司令部副总司令兼前进指挥部主任,具体负责指挥作战;同时命令邱清泉第2兵团和李弥第13兵团由徐州向东攻击,为黄百韬第7兵团解围。在蚌埠,以第9绥靖区改组建第6兵团,以第4绥靖区改组建第8兵团,两兵团将协同沿津浦铁路两侧向宿县推进。至此,徐州、蚌埠战场国军兵力增加到80万人。
11月15日中原野战军攻占空虚的宿县,切断了徐州守军向蚌埠之退路。鉴于淮海战役规模越打越大,16日中共中央军委决定组成淮海战役总前敌委员会统筹华东、中原区事宜。蒋介石下令黄维第12兵团及蚌埠之李延年第6兵团、刘汝明第8兵团向北推进,重占宿县。
自11月13日起,徐州国军以邱清泉第2兵团和李弥第13兵团协