自1946年6月蒋介石发动全面内战一来，华东野战军一直就是在劣势的兵力下，抗击国民党军的优势兵力，并在间隙中作战，歼灭国民党军一大部分的兵力。
1946年7月华中野战军3万余人在苏中七战七捷，歼灭国民党军第一绥靖区5.3万人，华中、山东两大野战军合并以后，又接连在宿北、鲁南战役中取胜，歼灭国民党军数个整编师7万多人，并且还凭借缴获的装备组建了自己的特种兵纵队，莱芜战役中歼灭李仙洲集团2个军5万多人，更为艰难的是，在1947年6月孟良崮一战中，歼灭了国民党军五大主力之一的王牌整编74师，创造了一个军事上的奇迹。
除了留下4个纵队在鲁中牵制国民党军主力外，其中以三个纵队西出津浦线，攻击泰安、曲阜；以两个纵队南下鲁南，迎击来犯之敌，进而策应晋冀鲁豫野战军挺进中原的战略进攻。最初分兵作战，也确实是收到了一定的效果，华野外线部队连战连捷，迫使蒋介石抽调鲁中地区部队，一切都朝着顺利的方向发展。
另外内线作战整体也处于不理状态，华野4个纵队趁着国民党军抽调兵力，位于南麻的整编十一师位置突出，打算再打一场孟良崮战役，歼灭这一支国民党军，结果遭到失利，整编十一师师长胡琏老奸巨猾，在南麻修筑了大量的连环堡工事，并赶上了天降大雨，进攻的华野伤亡惨重，不得已而后撤。
连续两战的失利，对于战局的影响非常大，国民党军对陕北、山东的重点进攻没有减缓，中原地区兵力空虚，晋冀鲁豫野战军挺进大别山地区后，几无外援，苦苦支撑。
1947年8月27日晋冀鲁豫野战军挺进大别山，开辟了大别山根据地，为了支援党中央下令，要求华东野战军主力迅速渡过黄河南下，9月2日华东野战军司令部率领6纵、10纵以及特种兵纵队与外线的1、3、6、8纵队在沙土集会合组成西线兵团，为了策应晋冀鲁豫野战军在大别山地区转战，华野西线兵团决定在沙土集发起一次战役，歼灭自曹县向北进攻的国民党军整编57师。
整编57师虽然不是类似国民党军五大主力的部队，但也是属于嫡系部队，该部队的前身是国民党军第32集团军李默庵麾下的突击总队，后来改番号为第98军，1946年改称整编57师，也同样是全副美械装备，解放战争初期还参加过对山东解放区的进攻。
也正是因为粟司令的坚持，沙土集战役中，华东野战军3、6、8三个纵队从南北两个方向夹击整编57师，华野10中负责阻击国民党军第5军的增员，华野4纵配个晋冀鲁豫野战军11中成功穿插整编57师与其他国民党军之间，切断了二者的联系，经过两天的激战，华东野战军西线兵团成功全歼国民党军整编57师师部以及下辖的两个旅9000余人。
综合来看华东野战军沙土集一战的战果相较于孟良崮战役、莱芜战役等都要小很多，但也不要忘记，这是自华野分兵以外，在外线打的第一个大胜仗，对于扭转部队士气起到了非常重要的作用，对挺进大别山的晋冀鲁豫野战军以及华野内线兵团的胶东保卫战，起到了很好的策应作用。9月14日粟司令在接受新华社记者的采访中，也特别指出了沙土集战役是“华东战局翻身的一战”。