会战前的态势是：整六十四师在青陀寺，整九师和整六十五师在蒙阴，整十一师在蒙阴、新泰间的常路，整二十五师和整七十五师在新泰，整八十三师在临沂充总预备队，左翼与在莱芜的第五军邱清泉部连接。
1947年7月7日，各师向东里店、南麻、鲁村之线，搜索前进。二十五师黄百韬的前进目标，原定为南麻。7月9日，蒋介石电令改用第某号计划，应改变为与第五军用他来吸引解放军包围后，四周的八十三师、二十五师、六十五师等部再反包围，里外夹击，可以打个大歼灭战。但态度骄傲，话不明说。李天霞见张已被围于孟良崮，不但不救，反率八十三师先逃。黄百韬、李振愤其不听命令，所以不加救援，以致被歼灭了。
1947年5月13日，整八十三师、七十四师、二十五师、六十五师由界牌、垛庄、桃圩、蒙阴之线，开始北进，六十四师控制于临沂。当七十四师到达坦埠时，解放军主力歼灭了莱芜李仙洲部，转而南下，如疾风劲雨。七十四师首当其冲，它自恃战斗力强过任何部队，自愿充钓饵，据守孟良崮，并放弃了天马岭据点。以致黄百韬原定的“以沂水支流为障，合八十三、七十四、二十五、六十五等四个师，连结固守界牌、蒙阴之城，另以七十四、二十五两师之各一部，固守天马岭、虾蟆岭，阵如长蛇，击头则尾应，击尾则头应，去张则首尾之八十三、六十五两师包围其两侧，加以席卷，俟其攻势顿挫，转移攻势”的稳妥计划不能实施。而八十三师又先向青陀寺撤退，靠近六十四师，以图自保。于是解放军又得以约两个纵队兵力，迁回蒙山的西南，直向界牌、桃圩的后方加以围攻。这样二十五和六十五两师的左、后、右三方面，亦受威胁，而不敢大胆全力地策应孟良崮。
当时黄百韬如果指挥二十五、六十五两师，全力猛扑天马岭、虾蟆岭，七十四师或不致全部覆没。无如黄一则因侧背感受威胁，不能不先求自保，二则因七十四师号称王牌部队，张灵甫更目中无人，心怀不满，故救援不甚热心。后经多方力请，才派出少数部队支援。而解放军常以绝对优势兵力，从事打援。天马岭仍屹然不动，根本未影响到孟良崮，到16日夜间，张灵甫已无消息。
七十四师消灭后，张灵甫的副官逃出，述说情况：原来七十四师一上孟良崮，把车辆遗弃山下，战斗物资已损失不少；山下原有两个水塘可以取水，也被解放军阻绝了；山上无水，人马渴不可耐，特别是马，两日无水草，都嚼断缰绳，满山乱跑，踏死撞伤士兵无数。旅长等问张：“无水怎能持久？必须想办法。”张还说：“置之死地而后生，士兵既然怕渴，感觉渴死比战死还难受，还不死力冲下去吗？”可是解放军层层包围，突破一层又一层，终未突出。到16日日没，张灵甫死，全师消灭。
张灵甫师在蒋军中素称王牌部队，王耀武是依赖它由师长升到方面军总司令的。故王听到七十四师消息，多日吃不下饭，睡不着觉。
蒋集团内党政军各级人员，为之震动，再不相信如何消灭解放军的任何说法，对国民党的前途，也有了疑问。蒋介石忧愤交加。暂时放弃了他的主导作战方针——“压迫到胶东沿海而歼灭之”，而急于召开检讨会议，查究责任，欲杀黄百韬而甘心。黄得顾祝同、汤恩伯的包庇，仅得“撤职留任”处分，并把李天霞撤职查办，取消汤恩伯的兵团司令名义。
从此建立战地视察组制度，由蒋介石派遣视察组到各部，随时将情况及部队长优劣向他报告，部队长更栗危惧，不敢发挥指挥能力，只事事待命，以致坐失战机；或事事听命于视察组，互推责任。经此次失败，自感兵力不足，由全面进攻，改为重点进攻，说明了在解放战争时期，这一次战役是转折点。革命武力愈战愈强，反革命武装愈战愈弱。