1946年9月底，进攻鲁西南的国民党军攻占定陶、菏泽等地后，以邱清泉的第5军和胡琏的整编第11师，分别沿菏(泽)巨(野)公路东犯，进至巨野县城以西附近地区。
晋冀鲁豫野战军司令员刘伯承、政治委员邓小平决心集中第3、第6、第7纵队歼灭位置较为突出的整编第11师一部；以第2纵队阻击第5军，保障主力作战。史称巨野战役。
1946年9月29日，巨野战役命令下达。战斗打响后，第2纵队英勇阻击第5军的猛烈进攻。由于刘伯承亲自到2纵指导，整个战前准备充分、战法得当、指挥灵活，阻击战应该说打得十分漂亮。至10月7日，第2纵队一直坚守住了防御阵地，共毙伤敌2000余人，有力地保障了主攻战场上的作战。
不过，与阻击战场上打得很漂亮相比，主攻战场上十分不顺利。“狡如狐”的胡琏行动异常小心，他要求部队昼间搜索前进，入夜主力退缩集结。加之雨后洼地积水，影响了我攻击部队的适时机动。这使得各个攻击方向均未获重大战果。针对这一战场局势，刘伯承主动调整部署，于10月5日令第7纵队包围了敌整编11师的第32团。
然而，就是这样一个团，同样也不好对付。起初，主要是7纵围攻。后来，第3纵也投入到交战。从兵力对比上来讲，我应该占据绝对优势，但火力却比敌人差得多。从战术运用上来讲，敌32团团长也是黄埔军校出身，深得胡琏防御作战要旨，给我两个纵队的攻击带来了很大的麻烦。
经数日激战，终将敌32团大部歼灭，仅数百人逃走，共毙伤其两千余人。
巨野战役，晋冀鲁豫野战军与国民党军两大王牌主力过招，“歼敌整编第11师一个建制团，重创第5军，严重地打击了敌王牌部队的疯狂气焰，取得了对强敌的作战经验”。
战争刚开打没多长时间，与两个王牌主力对决打成这样，应该说是十分不易的，能下这个战役决心也是很了不起的。特别是对整编11师来说，一下子损失一个建制团，这是极少见的。连敌人也承认自己是失败了。据称，胡琏对整编11师损失一个主力团感到十分懊丧，“在一次宴会上指责第5军军长邱清泉救援不力，邱清泉反唇相讥，说胡琏打仗总想靠别人支援，太没魄力，不配当黄埔学生。一番唇枪舌剑，两人不欢而散”。
不过，对于巨野之战，刘伯承对这样的战役结果一点也不满意。众所周知，刘伯承打仗向以精于算计见长，向以谋略运用高超见长。然而这次作战，“与敌陷于牛犄角僵持笨拙状态”，未能调动迷惑敌人使其暴露弱点，并不符合刘伯承坚持的运动战和歼灭战的打法，并不符合刘伯承坚持的机动灵活地打击敌人的做法。特别是在总体军事实力占据劣势的情况下，显然不宜打这种硬碰硬的仗。最后刘伯承总结认为“这种牛犄角”式的打法，“甚为不智”。二野战史对这场战役教训这样总结道：
“对于敌人的防御能力和特点，则是生疏的。这个敌人的防御方法，主要是加强本阵地周围的移动警戒（通常是一个加强连），既易使我扑空，又能使我不易接近其本阵地。其村落防御重点不在村外而在村内，以村为中心为核心，沿街道房屋构筑无数地堡，每个地堡只有4至5个人，1挺机枪，3至4支步枪。我们过去通常是攻入村内即算胜利在握，而面对这个敌人攻进村庄仅是战斗的开始......敌虽伤亡在2000人以上，我亦伤亡1200余人”。
特别值得一提的是，19旅旅长吴大明在野外勘察地形，为进攻作准备时，被敌32团射手击中头部，当场牺牲，这是个极大的损失。不管怎么说，我攻打的是敌一个团，而我却先损失了一个旅长。
失败乃成功之母。共产党人从来不怕失败。连国民党军都承认的一场败仗，但刘伯承却保持了清醒的头脑，他以打运动战和歼灭战的标准严格要求自己，他从指挥控制角度审视这场战役的得失。共产党人坚持打一仗进一步，刘伯承注重实事求是，善于总结经验教训，这使他的军事理论与实践始终高敌一筹，享有军神之称。
刘伯承在给中央的报告中最后这样写道：“我们正本此教训准备大踏步的机动，哪里有机会就到哪里打”......