1947年5月，张灵甫率整编74师摆脱三个整编师齐头并进的队形，孤军深入，进击华野司令部所在地坦埠，结果在离坦埠5里远的地方，遭到华野部队的强烈阻击，通往坦埠的公路被封死。
第一兵团司令汤恩伯得知情况，急速向张灵甫下达命令：“撤回垛庄，死守垛庄。”
但为时已晚。
就在汤恩伯急速下令的档口，华野部队快速出击，一举全歼了据守垛庄以及途中跑去增援的整编74师一部千余人，这意味着张灵甫返回垛庄的道路也被拦腰截断了。
坦埠被封死，退回垛庄要拼命，张灵甫面临事关生死的抉择。
危急关头，整编74师副参谋长李运良注意到了垛庄与坦埠之间的一座山冈，这个山冈东西长10里，南北宽3里，当地人叫它“孟良崮”。
李运良巧舌如簧，属于军中的逢迎之辈。这一次，他抓住张灵甫骄横，急于立功的心态，献上了一个极其要命却又极符合张灵甫胃口的“馊主意”。
李运良说，这些天我们正愁找不到华野主力，现在他们主动找上门了，74师如能占据孟良崮，居高临下，凭险固守，先吸引华野主力来包围，然后25、83、65师一道上来，再来一个反包围，这样就可以打一场中心开花的大歼灭战了。师座说过，打仗怕死，军人之耻！历史上不乏破釜沉舟、背水一战，置之死地而后的战例，战机不可失，74师上孟良崮就是当今的破釜沉舟。
张灵甫自在两次涟水战役中占了便宜，一心想打更漂亮的大仗，经李运良这么一渲染，上孟良崮简直太显“英雄本色”了，这一仗，如果真打成了破釜沉舟，背水一战，中心开花，那他的尾巴可就有资本翘上天了。
可是，就在张灵甫跃跃欲试的时候，整编74师参谋长魏振钺却坚决地提出了反对意见。
魏振钺说，孟良崮是座孤山，遍地石头，根本无法修筑防御工事，稍有常识就应该清楚，炮弹打在石头山上，杀伤力倍增，况且部队和军马又无处藏身，这就是干等死；还有一点也是要命的，如果上了孟良崮，一旦找不到水源，垛庄又失，孤山绝地，这哪里是凭险固守，分明就是自陷死地！另外，我新增的两个炮兵营，车辆多，装备重，弹粮水急需补充，山地作战，优势难以发挥，上孟良崮实乃兵家大忌。
魏振钺说的这一套，简单说，就是诸葛亮对马谡的训示，依山靠水安营扎寨，是兵家千古原则。
但是，张灵甫不相信自己会成为第二个马谡。
在国民党军中，参谋长还是有相当话语权的，因为魏振钺持反对意见，据说，张灵甫曾将撤往孟良崮的依据及方案经渲染后分别上报了蒋介石、战区司令长官顾祝同以及第1兵团司令汤恩伯。
“很有意思”，在这个极考验将帅战场决断能力的时候，蒋介石犯了与张灵甫同样的毛病，他不看大忌，不看风险，一味强调张灵甫有居高临下的优势，后续有40多万大军，最后电令74师坚守孟良崮，紧紧钳制华野主力，同时调集重兵向74师靠拢。
值得注意的是，当蒋介石的电令下来时，已经过去了2天时间，这意味着张灵甫原地待命，浪费了极其宝贵的2天时间，已经别无选择，而华野主力则利用这两天时间，顺利实现了对74师的合围。
张灵甫从雄心勃勃到内心饱受煎熬，似有后悔之意，前后不过五六天。
5月15日上午在西540高地，在一次高级将领参加的会议上，张灵甫痛苦地说了一句，倘知今日，何必当初？
很明显，他后悔了。
到了这一天下午，师长张灵甫、副师长蔡仁杰从西540高地转移到58旅所在的600高地，这次转移，张灵甫留下了参谋长魏振钺、57旅旅长陈嘘云和副旅长明灿。
这实际上是一次分道扬镳，客观上给了魏振钺一条“不必去死”的活路。
据说，打到最后，张灵甫在600高地的“大岩洞”里问蔡副师长：“仁杰，你看我们该怎么办？”
蔡仁杰当即痛快地回答：“师座说怎么办，就怎么办！”
当得知张灵甫要集体自杀的意图后，蔡仁杰跑出洞口高呼口号，回来后张灵甫紧紧握住蔡仁杰的双手，动情地说：“好兄弟，我们来世再见！”
蔡仁杰二话没说，拿起手枪就朝自己的头部打，接着张灵甫、同在“大岩洞”的58旅旅长卢醒各自用自己的手枪也自杀了，另有一种说法，第一个开枪自杀的是身受重伤的卢醒。（因为他们自杀时，将各自的卫兵都驱赶出了山洞，所以他们自杀时并没有现场目击者。）后来，国民党部队派人上山收尸，发现张灵甫的尸体不见了；蔡仁杰死的最惨，不知他用什么枪自杀的，找到尸体时头部已经溃烂不成形了，只剩下一长截光溜溜的躯干。
张灵甫自杀，除了战败杀身成仁，还有为错误决策负责的意味，讲到为错误决策负责，最应该自杀的应该是当初极力主张上孟良崮的李运良，但这家伙最后耍了滑头，在洞口，他闭上眼睛，掏出手枪，对准太阳穴，佯装自杀，但是在扣响扳机的一刹那，他把枪口一抬，子弹只蹭破了前额的一层皮，这时候，他顺势倒地，弄得满脸血污，躺在地上装死，最后被俘。
与张灵甫有矛盾，或者说最后时刻分道扬镳的参谋长魏振钺没有选择自杀，他也被俘虏了，一直活到69年，最终死在了大风暴里。
他比张灵甫、蔡仁杰多活了22年，但活着有时候比死更难。