1978年12月18日至22日，中国共产党第十一届中央委员会第三次全体会议在北京召开，会议宣布恢复重建中共中央纪律检查委员会。黄克诚被选为常务书记，时隔近20年后，他再次出现在公众的视野，回到了政治舞台上。
上任前，黄克诚向中共中央纪委第一书记陈云问了一个问题：“我们应该主要抓什么？”
“党风。”陈云坚定地回答道。
黄克诚点点头，深表赞同：“党风搞好了，我们党才有希望。”
在1979年1月4日，中共中央纪委召开了第一次全体会议上，黄克诚便在讲话中表达了对开展工作的态度，并在毛主席此前要求的“五不怕”精神上，又提出了“两个不怕”，分别是不怕撕破脸皮，不怕打黑枪。
黄克诚是这样要求大家的，更是这样严格要求自己的。同时，他对身边的亲人、朋友、工作人员和部下也同样如此。
中央纪委成立后，针对党内出现的一些贪污腐败、以权谋私等现象颁布了一系列规定。
黄克诚向妻子唐棣华提出要把“单位以前分给你的宿舍归还给单位。”
唐棣华十分支持丈夫的决定，当即表示“我明天就去办手续，还给单位。”
黄克诚十分感动，他感谢妻子理解自己的工作。在黄家，黄克诚还定下一个规矩，那就是不能有子女经商。黄家的孩子们听后，也没有过多反应，只是表示听从。
1980年1月，李达、张才千被调离总参，张震则调来总参工作。大家都是老战友，在总参主持工作的杨勇便在京西宾馆请大家一起吃了顿饭。结账的时候，杨勇用总参的名义开了一张400元的发票。
只是一顿饭，杨勇并没有多想，但几天后，中共中央纪委便收到了举报杨勇的材料。黄克诚看到后，生气地说道：“这件事，一定要查一下。”
一旁的秘书小心翼翼地说道：“只查这个事不太好，现在公款吃喝的现象也不少见，而且，杨勇和张震还都是您的老部下。”
黄克诚一听，更是生气，“一顿饭就花掉了400元，一个农民一年才能挣多少钱。这件事必须查，不仅要查，还得处理，发现一个查处一个。”
杨勇是黄克诚的爱将，两人共同经历过生死，又在特殊的年代一起挺了过来。杨勇不敢相信黄克诚会查自己。
参加这次饭局的同志听到风声后，也纷纷去找黄克诚求情，希望能够低调处理。但均遭到黄克诚的拒绝。
杨勇听说后，心中也开始不满，发起了牢骚。这些话也传到了黄克诚的耳朵里，他当即给杨勇打去了电话。杨勇一接起电话，就听到对面说道：“杨勇，你这官是当大了，老虎的屁股摸不得了啊。”
黄克诚一句话点醒了杨勇，他立即承认自己的错误：“这件事是我的错。你也不用查了，是我的主意。这钱我自己出。”
黄克诚继续教育他说：“这可不单单是交钱的问题，涉及党风问题，你作为高级干部，越要严格要求自己，不然怎么服众呢。”
“黄老，我作检讨，然后总参纪委再发通报，要各级干部以我为戒，您看这样可以吗？”
黄克诚这才挂了电话。