1959年，中央军委改组，叶剑英奉命分管科研和教育训练工作，这一时期，他将自己的精力投入到了军队院校和人才的建设上。后来，不少人都认为“这一时期的叶剑英不再是中共权力中心的人物”，但这些对叶剑英来说并不重要。
1966年1月，叶剑英出任中央军委副主席，不久后又开始主持军委日常工作。此时军队已经处于“山雨欲来风满楼”的气氛之中。
1966年5月开始，社会各行各业的情况进入了一个白热化的阶段，军队也未能幸免于难。叶剑英坚持要守住军队，这是最后的阵线，否则，国家恐怕就要大乱了。
然而，形势的发展却远远超出了他的想象，全国13个军区中，就有7个军区在搞运动，总政、总参各机关已经瘫痪，无法履行职能，海军、空军也受到了冲击。军队内部，许多军区领导、老干部被逼得东躲西藏。
这一时期，叶剑英尽力为每一位同志提供保护，但同时，他自己的处境也很艰难。
由于叶剑英等老干部们坚持稳定军队不受冲击，这一做法阻碍了江青等人要搞的运动，双方很快便发生了正面冲突。
1967年1月，《解放军报》拟定“宣传要点”时，关锋首次提出了“揪军队一小撮”的口号，江青、林彪先后批示“同意”。很快，“揪军队一小撮”逐渐在全国范围内蔓延开来。其带来的后果便是军队也开始更加混乱，难以控制。
在这一背景下，毛主席针对军队的情况，指示“军队要稳定、团结”，根据这一指示，中央军委颁布了旨在稳定军队形势的《军委八条命令》。
然而，在这次运动中正处于狂热状态的关锋并没有理解毛主席的意思，他一再鼓吹“揪军队一小撮”。
于是，在一次会议上，叶帅向参会人员宣布了毛主席的指示和“八条命令”。最后，叶帅怀着既高兴又愤怒的心情，猛拍了一下桌子，然后大声说道：“谁想要把军队搞乱，绝不会有好下场。”
此时的叶帅是高兴的、兴奋的，因为他明白毛主席对稳定军队是坚定的，这也是他最想看到的。
然而，谁都没想到，叶帅话音刚落，会议现场的关锋就立即站起来，对着叶帅大声质问道：“你在干什么？冲谁拍桌子呢？”
叶帅刚想说话，就见黄永胜突然带头高呼“毛主席万岁”，众人也跟着喊了起来。这件事就这样过去了。
关锋突然从一个普通的、不起眼的干部一下子被毛主席看重，提拔到了中央，成为了当时的“领头羊”，他的内心难免膨胀。尽管身边有很多优秀的老干部，但他却没有从中学到一点儿好的工作经验，反而把“老大”的派头学了个十足，丝毫不尊重老帅，居然无故找茬，当众指责叶帅。
此后几个月里，关锋继续以“揪军内一小撮”为主题，积极开展各种活动，军事机关遭到了冲击，有的地方甚至发生了抢夺枪支弹药的事件。这让刚刚稳定下来的军队形势再次面临着严峻的形势。
8月1日，《红旗》杂志发表了八一社论，再次强调了“揪军内一小撮”，文章发表后，震动全国，毛主席大为震怒，怒指该社论为“大毒草”。很显然，对于关锋等人的做法，毛主席是不能容忍的。
很快，康生、陈伯达等人在得知毛主席的态度后，急忙向下推卸责任，而作为主持起草这篇社论的关锋自然难辞其咎。
8月26日，毛主席亲自作出了指示，称“关锋不是好人。”很快，他便被隔离起来，进行检讨。1968年，关锋被关进秦城监狱，并被开除了党籍。
1982年1月，经过多方面考虑后，中央决定不对关锋进行起诉，但之前被开除党籍的决定不变。此后，关锋便回到家里，跟妻子、孩子一直生活在一起。
晚年，他再次拾起了手中的笔，开始了写作，但对于自己过去的那段历史只字不提。