新中国成立后，康生担任了第一任山东省委书记，同时他还兼任了华东局副书记。不过，当时康生与华东局书记饶漱石有矛盾，因此称病不出，大部分时间以休养治病为主，直到八大之后，康生认为自己复出的时机来临，才重新复出工作。
康生复出之后，很快就经历了1959年的庐山会议。在庐山会议期间，康生参与迫害了彭老总，在这之后，康生也继续发挥自己过去的整人本领，迫害了一批干部，尤其是1966年之后，康生进入中央文化革命小组，担任顾问，手中权力很大，他也变本加厉，继续迫害干部与群众，造成了严重的社会影响。
其实，在延安时期，康生曾主管社会部的工作，客观来说，他也为我党的情报工作作出了一定的贡献，但康生为人多疑，怀疑很多从城市而来的有志青年是特务，并发起了所谓的“抢救失足者”运动，借此迫害了大批知识青年。
康生的秘书曾回忆过康生是如何迫害知识青年的：康生拿着一份名单，在名单上随意地做了不同的标记，做完标记之后，就告诉工作人员这些人是特务，需要审查。当工作人员提出不同看法后，康生便再修改，工作非常随意，完全像是随机安插罪名。
1966年，中央文化革命小组成立后，康生被任命为小组顾问，陈伯达是小组组长，江青是小组的副组长。康生算是江青的老师，对江青的工作非常支持，包括张春桥与姚文元也非常支持江青，这也就造成了陈伯达被架空，江青大权独揽的局面。
九大之后，江青进入政治局，康生还专门题词祝贺，并亲自送到江青的住处。江青对康生的题词也非常重视，并悬挂起来。不过，令人想不到的是，1974年，康生病重期间，却主动检举了江青与张春桥两位高级干部，并说他们是叛徒，这是怎么一回事呢？
当时是1974年12月，康生已经身患重病，病入膏肓的康生让人用担架抬着自己，到了总理那里。总理一看便知道康生有重要的话要说，于是就屏退左右。康生果然说出了一个令人震惊的消息：江青与张春桥是叛徒。
值得一提的是，康生不止对总理一个人这样说，1975年4月，康生又找到王海容与唐闻生，希望她们给主席带话，说江青与张春桥历史上有问题，并说有两个人可以证明江青与张春桥是叛徒。
前面我们说了，康生与江青关系不错，那么，康生为何要举报江青与张春桥呢？其实，这就是康生老奸巨猾的一面，这件事要从四届人大会议的筹备开始说起，1974年10月，四届人大会议筹备期间，“四人帮”加快了夺权的步伐，10月18日，在江青等人的策划下，王洪文专门到长沙告状，反对四届人大的人事安排。
当时主席就警告了王洪文，让他“不要搞‘四人帮’，不要搞宗派”，康生敏锐地感觉到形势发生了变化，于是他决定与江青、张春桥等人划清界限，为自己将来留下个好名声。只是康生打错了算盘，他在“十年特殊时期”迫害了大批干部与群众，做了很多坏事，1980年，康生不仅被开除了党籍，而且还被撤销了悼词。机关算尽的康生，最终也没有逃过历史的审判。