1947年2月，华东野战军集结在山东临沂地区休整待命，而蒋介石则认为这是他们军事上的胜利，将华野战军挤到了临沂地区。并错误地判断，认为华东野战军经过连续作战，已经是一蹶不振，元气大伤，认为这是消灭华东野战军、彻底解决山东问题的大好时机。为此，国民党决心发起一次以攻占临沂为目的的“鲁南会战”。
蒋介石非常重视这个计划，命令国民党参谋总长陈诚坐镇徐州亲自指挥，并于1947年2月2日飞临徐州面授机宜。
国民党在山东地区投入了大量的兵力。陈诚认为，如此庞大的兵力是陈毅和粟裕根本无法阻挡的，他对部下说“即使全是豆腐渣，也能撑死共军”。
国民党在“鲁南会战”的要点是:在陇海大路东段和胶济铁路西段，分别组织两个攻击集团，实行南北对进，黎歼华东野战军于临沂地区。
南线由整编第19军军长欧震指挥8个整编师，由陇海铁路北侧的台儿至城头一线，向北发起全线进攻。欧震也许是被打怕了，采取了稳扎稳打、齐头并进、避免突出的战术，每日推进不足10公里。这种密集的战斗队形，让粟裕无从下手，找不到战机。
北线之敌，由国民党第二绥靖副司令李仙洲指挥3个军，由北向南配合进攻。在蒋介石、陈诚的一再督促下，1947年2月4日，李仙洲的先头部队占领了菜芜城，距离临沂仅剩100多公里。
临沂是华东解放区的首府，也是中共华东局机关所在地，国民党进攻山东必攻临沂。此时，李仙洲部已成孤军深入之势，中共中央指示陈、粟不要着急，敌人愈深入愈好，必要时可放弃临沂。
1947年2月6日，中共中央批准了粟裕北进歼灭李仙洲部的作战计划。粟裕遂以两个纵队、以地方武装配合，在运河上架设浮桥，给敌人造成要与欧震部决战、与刘邓会合的假象，主力则撤出临沂，昼伏夜出，隐蔽行军，秘密转移至北线作战。
1947年2月15日，欧震集团在我掩护部队和地方武装的节节阻击下，才艰难地占领了临沂城，但此时的临沂已经是一座空城了。
国民党尽管占领的是座空城，但仍然“大喜若狂”，大肆鼓吹“临沂大捷”，认为这是“鲁南会战”取得了决定性的胜利。
陈诚被“临沂大捷”冲昏了头脑，他一面命令南线部队继续北进，一面命令李仙洲的部队配合作战，企图将华东野战国压缩在沂蒙山彻底消灭。
此时，身处济南的国民党第二绥靖区司令王耀武，他不相信华东野战军主力会被如此轻松地击败。他又得知欧震兵团轻松进入临沂，估计是华东野战军主动放弃临沂。他既惧怕华野围歼孤军深入的李仙洲部，又顾虑济南守备兵力空虚，于是于2月16日，一面打电报给陈诚，一面命令已进入菜芜、新泰的李仙洲部后撤。
此时，华野主力尚未全部到达指定位置，眼看煮熟的鸭子要飞了。这时，蒋介石、陈诚被部属所夸张的胜利，及空军侦察到的情况所迷惑，向王耀武下达命令，“命李仙洲部固守新泰，并派出部队向蒙阴、白马关、大没口方向侧击”，并亲自写信给王耀武，让李仙洲进驻莱芜、新泰。这下好了，这只飞走的鸭子又让蒋介石亲自送了回来。
王耀武接到信后心烦意乱，他虽不同意蒋、陈的判断，但也不敢违抗蒋介石的命令，也只好又将李仙洲赶了回来，塞进了粟裕早已张开的口袋里。
此时，华东野战军数路大军逼近菜芜、新泰等地，王耀武非常警觉地感到，华东野战军有围歼李仙洲兵团的意图，为了不使李仙洲部被歼，再也顾不得蒋介石的命令了，急令李仙洲部撤回济南，只可惜已经来不及了。
2月19日，粟裕指挥华东野战军已经完成了对李仙洲部的包围。
2月20日，莱芜战役打响，首先歼灭了企图撒入菜芜城中的73军77师，取得了莱芜战役的第胜利。20日晚，华东野战军熊全线进攻。
两日后，王耀武亲自写信给蒋介石请求让李仙洲“撤退”。蒋介石看了王耀武信后倒吸一口凉气，铁青着脸半天说不出话来。后写信给王耀武同意，并在信中祈求“上帝保佑我北撤军之安全与胜利”。
然而，王耀武的个决定反而帮了粟裕的忙。当时狗李仙洲部约有5万多人，如果固守莱芜，依解放军当时的装备，即使全歼，势必造成巨大的损失。要全歼李仙洲集团，最理想的方案，就是将其引出城外围歼。
正在李仙洲急于北逃的时候，韩练成的出现又打乱了他的部署。韩练成是46军军长，早在抗战时期就加入了我党的情报系统。韩练成让他将撤退时间又延迟了二天，为我军伏击部队到位争取了时间。
2月23日，在20架飞机的掩护下，李仙洲部以两路平行队列向北突围，早已埋伏于两侧的解放军严阵以待，经过激烈的战斗全歼其部，活捉了李仙洲及第73军军长韩浚。后又将国民党王牌整编74师从大队中隔离，全歼于孟良堌。
莱芜战役共歼敌7万余人。