1958年3月，中共中央在成都召开会议，毛泽东在会上明确指出：“军队落后于形势，落后于地方。”他提议召开中央军委扩大会议，用整风的方式检查总结建国以来的军事工作。5月24日，中央军委召开扩大会议，会议由中央军委副主席彭德怀主持。
时任总参谋长的粟裕也参加了此次军委扩大会议，但他却发现自己成了被批判的中心。有人上台揭发粟裕“一贯反领导”，与彭德怀“将帅不和”；有人发言给粟裕戴上吓人的大帽子：“向党要权”、“争夺军队权限”、“向国防部要权”；有人无限上纲说粟裕 “告洋状”、“里通外国”……
最后会议对粟裕的批判一再扩大，不仅连续开了50多天，而且规模从军以上扩大到师政委以上，人数从400多人增加到1000多人。8月31日，中央政治局通过了“解除粟裕总参谋长职务”的决定，并决定将他的“错误”口头传达到军队团一级、地方地委一级。
党内许多领导都对粟裕的遭遇表示不平。叶剑英曾问总参的一些同志：“到底出了什么事？我看粟裕最多是个骄傲问题吧！”杨尚昆后来也说：“粟裕同志1958年的事我了解，当时我是中央办公厅主任。他的事说起来很简单，就是得罪了两个半元帅……”
杨尚昆所说的“两个半元帅”，第一个是彭德怀。
1954年9月，第一届全国人民代表大会决定在国务院设立国防部，彭德怀出任中央军委副主席兼国防部长，主持中央军委日常工作，这年11月，粟裕出任总参谋长。国防部设立之初，与军队各总部的隶属关系、分工、职责等条例尚未建立，彭德怀与粟裕的矛盾就由此而来。
有一次，时任总参作战部部长的张震给粟裕送文件，看到见他正在低头垂泪。张震跟随粟裕多年，从没见过这位身经百战的大将军流过泪，便关切地问：“粟总，您怎么了？”
粟裕对老部下道出了苦衷：
原来总参谋部的文件，都是直接报给毛主席的。毛主席对我说过，你每周或半个月到我这里来一次。彭总回国主持军委常务工作后，我很尊重他，就把原来直接呈送毛主席的文件，送到彭总那里，请他转呈。不想，彭总很不高兴地把文件一摔，对我说：“你要给主席送文件，就自己送，为什么还要我转？我不当你的通信员！”
于是有些总参的文件，我就直接呈送给主席了。刚才，彭总批评我说，主席把他叫去，问他：“总参报来的XX文件，你的意见是什么？”可是彭总没有看过这份文件，没办法回答主席。他说：“总参报主席的这份文件，为什么事先不给我看？”
最后粟裕一边擦着眼泪一边说：“究竟哪些文件总参可以直接报主席，哪些要通过彭总转报，他也没有明确，我无所适从，很为难啊！”
1957年11月，彭德怀率领中国军事代表团访问苏联，粟裕随团出访。粟裕在苏联期间，根据原定的日程对口拜会了苏军总参谋长索科洛夫斯基，他在会谈时请索科洛夫斯基提供一份苏军“关于国防部和总参谋部工作职责的书面材料”，以便参考。这本来是件极其正常的事，却有人攻击粟裕是“告洋状”、“里通外国”，彭德怀得知此事后，自然对粟裕的意见就更大了。
“两个半元帅”的第二个是聂荣臻。
聂荣臻与粟裕有隙，大约始于1952年粟裕任第二副总参谋长期间，当时聂荣臻任代总参谋长，主持总参日常工作。聂荣臻担心毛泽东事情太多太忙，便要求总参上报给毛泽东的文件先报到他这里来，重要的文件再由他批呈。以往每半个月向毛泽东报告一次的粟裕，自然也只好按聂荣臻的意见办理。
1952年7月24日，毛泽东召集军委领导开会，他在会上点名批评聂荣臻说：“最近一个时期，我感觉工农青妇的‘菜’，摆满一大桌，吃也吃不了。可是，军队系统的‘菜’太少，我饿得慌。你们为什么对我封锁呢？”
聂荣臻听后一言不发，毛泽东更生气了：“你讲话呀！过去政治局开会，我请你列席，你也不讲话。我怕把椅子坐坏了，就不请你了！”
列席会议的张震见气氛有些紧张，连忙插话说：“主席日理万机，工作太忙。所以一般性的文件就不送了，只选最重要的上报。”
朱德听后马上批评张震说：“你应该送。我们忙，有军事秘书看呀！”
此时毛泽东又对聂荣臻说：“荣臻，你讲讲。如果你不讲，就做组织调整。”其他领导同志赶紧出来打圆场，表示不要急着处理，让聂荣臻回去后写个检讨算了，会议这才结束。
聂荣臻回去以后，马上给毛泽东写了一份书面检讨报告。粟裕认为自己作为副总长，也应该承担一定的责任，不能只让聂荣臻一个人担担子，他也给毛泽东写了书面检讨，检讨自己未按照毛泽东的要求每半月报告一次情况的错误，他还在检讨里说：“虽然毛主席没有指名批评我，但对我教育很大。”
毛泽东看了粟裕的检讨后，在上面作出批示：“此种检讨很好。”他又把粟裕和聂荣臻的工作作了对比，肯定了粟裕半年来的工作，对聂荣臻则又作了批评。
粟裕本想通过检讨为聂荣臻分担一些压力，谁知竟因此使聂荣臻受到了更多的批评，这自然也引起了聂荣臻对他的误会。
“两个半元帅”的半个是陈毅。
陈毅与粟裕之间，确实有过分歧，那是在解放战争初期，陈毅和粟裕研究在何处歼敌的问题上，有过不一致的意见，但当陈毅知道党中央已经批准了粟裕关于“在内线先打几个胜仗后再行西进”的意见后，便改变了态度，全力支持粟裕，从而取得了“苏中七战七捷”这个极其辉煌的伟大胜利。
在1958年的军委扩大会议上，陈毅虽然也批判了粟裕，但他只是向粟裕的“个人主义”开炮，看似毫不留情，实际上保护了粟裕。粟裕在第二次大会上做完检讨后，陈毅主动走上前去握着他的手说：“讲得很好。”陈毅还带头鼓掌，表示通过。所以陈毅只能算“半个”。
粟裕被批判一年后，彭德怀也在庐山会议上被批判。刘少奇找到粟裕说：“1958年的事，你也可以说说嘛！”有的元帅也对粟裕说：“你受了那么多委屈，受了那么多不白之冤，该说说清楚了，如你觉得不便，就由我来说。”
粟裕却明确表示：“我不愿在彭德怀受批判的时候提我自己的问题，我绝不利用党内政治风浪的起伏，我相信自己几十年的革命实践足够证明自己！”
粟裕正式得到平反是在1994年，这年12月25日，《人民日报》和《解放军报》同时发表了军委副主席刘华清、张震署名的文章《追忆粟裕同志》。文章除了对粟裕的一生作了公正全面的评价外，还有这么一段话：
1958年，粟裕同志在军委扩大会议上受到错误的批判，并因此长期受到不公正的对待。这是历史上的一个失误。这个看法，也是中央军事委员会的意见。
这个代表中央军委为粟裕正式、公开的平反，虽然来得太迟，但终于还历史以本来面目，还粟裕以清白高洁，既告慰了九泉之下先烈的英灵，也实现了广大干部群众久久盼望的心愿。这一长达36年的公案，总算得到了公正的了结。