1959年在庐山会议上一同与彭德怀受到批判的黄克诚，是我军被罢官次数最多的将军，而黄克诚的每一次被罢官，都源于他与上级不同的看法，可事实证明，黄克诚每次都是正确的，因此在我军中，黄克诚的威望很高，他的名字，也是一个刚正不阿的“黄金招牌”
特殊时期结束后，党中央决定整顿党风党纪，黄克诚被任命为了中纪委的常务书记，尽管再三推辞，但是黄克诚还是被组织一句话折服了，陈云对他说：“现在党和国家处在如此重要的历史转折关头，我们这些老同志都有责任勇挑重担啊！难道你黄克诚真的就不关心党和国家、人民的命运了？”
而让黄克诚没想到的是，他刚上任中纪委常务书记这个职务，就接到了不断的“挑战”
1979年底，“渤海二号”钻探船由于工作人员违章操作，造成了船沉，酿成了72人死亡的重大事故，这是一件影响很大的事，当然是越快处理越好，可石油部却很长时间没有向上级反映。
直到8个月后，死者家属写信向中纪委告状，黄克诚这才得知事情的来龙去脉，他很生气，当即派人前往石油部对此事进行彻查，最终，石油部部长宋振明被解职，甚至连分管石油工业的副总理康世恩也受到了记大过处分。
黄克诚雷厉风行的做法，引起了一些人的不满，但黄克诚坚守我行我素，不久后，黄克诚又收到了新的消息，他的老部下杨勇在京西宾馆请客，居然没花钱，他没钱，那不就是花的公款吗？
特殊时期结束后，邓小平担任了总参谋长，杨勇为副总参谋长，但邓小平身兼多职，忙不过来，实际上杨勇就主持了总参的工作，1979年，邓小平不准备做总参谋长了，但又考虑到杨勇上任总参谋长后对业务有些不太熟练，因而就将杨得志调来，当了总参谋长，杨勇继续为副总参谋长。
1980年，党组织决定将张震调来总参工作，调原副总长李达，张才千两人离开，另作他用。
李达，张才千两人都是二野成长起来的，与杨勇是老战友了，为此，杨勇为了欢送老战友，也为了迎接张震，他便主持着在京西宾馆请客吃了饭，总共花了400元。
也许在今天看来，400元不多，可那个时候是1980年啊，很快，便有人写举报信递给了中纪委。
黄克诚对贪污浪费向来是深恶痛绝，他接到举报信后，并没有因为杨勇是自己的老部下，就对他进行包庇，他反而指示中纪委的工作人员说：“查，就算涉及到天王老子也要查，不仅要查，还要处理。”
黄克诚的大公无私，让杨勇有些不满，他觉得黄克诚有些小题大做，黄克诚得知这件事后，二话没说，直接给杨勇打了电话：“杨勇，你官做大了，老虎屁股摸不得？”
杨勇听到老领导确实生气了，他十分惊慌，此时张震等人为了减少不必要的麻烦，主动向黄克诚提出要求，将钱给还上，但是黄克诚却婉拒，他说：“谁是发起人，就由谁来付钱，任何人都不能代替。”张震只好作罢。
后来，是杨勇主动从工资中取了400元将钱补上，这件事才算了之，与杨勇有着类似经历的，还有当时担任商业部部长的王磊。
王磊在北京丰泽园多次请人吃饭，他倒不是用公款，而是每次付账时都少付钱，日积月累，他已经欠了饭店120多元，都说“初生牛犊不怕虎”，丰泽园一位年轻厨师得知后，立刻写了一封信送到了中纪委。
黄克诚得知立刻批示要调查此事，后经查实，黄克诚便将此事作为典型向全党发通报，除此之外，《人民日报》还发了关于此事的报道，这件事一经传出，在我党的高级干部中，引起了很大的轰动。
有一个老干部觉得黄克诚做得有些过了，黄克诚记住了这位领导的名字。
一次开会，黄克诚点名：“XXX来了吗？”此人站了起来：“黄老，我在。”
黄克诚：““听说你对这件事的处理耿耿于怀，是不是打在他身上，痛在你心里啊？.......现在老百姓对领导干部搞特殊不满，不就是因为领导干部不自觉，搞特殊化吗？难道领导干部就不能批评了，做错事就不能见报了？有什么不得了？”
这位领导解释说自己不是不同意对黄克诚处理的结果有意见，而是认为不应该在《人民日报》点名批评，黄克诚不以为然说：“这有什么不合适，我们的领导干部如果连这点批评都受不了，还算什么共产党员？”
黄克诚对他人严格，实际上，他对自己更为严格。
1943年，黄克诚时任新四军第三师师长，师部师部驻扎在阜宁孙西庄，在这里，他借住了老百姓两间房子，一间当办公室，另一间当卧室，每次到了固定时间，黄克诚都会向房东交钱，但是房东执意不收。
黄克诚并没有将这件事算了，而是记了下来，一年多后，黄克诚带着部队转移，房东收拾房子时，却发现了一封信，上面写着：房租五元请收下，少了些，很抱歉，黄克诚。
不仅如此，黄克诚还有一次为自己的战马向老百姓赔钱。
1945年，三师师部驻扎在南窑村，一天早上，黄克诚在村外散步时，忽然看到一棵柳树树干上少了一大块皮，黄克诚仔细地看后说：“可能是战马咬的。”后经查实，果然如此。
在同志们的协助下，黄克诚很快得知这棵被咬的柳树，是本村朱立殿老汉的，黄克诚就拿出两块钱，要给朱老汉赔偿，朱老汉却执意不要，他说：““新四军打鬼子，连命都不要，我树上少一块皮有什么，日本人杀人放火，要不是你们新四军来了，我这把老骨头早打鼓了......”
黄克诚见朱老汉执意不收，只好暂时搁置此事，但他并没有忘记。
后来部队离开南窑村，黄克诚委托村长将两块钱转交给朱老汉，还有他一封亲笔信，上面写道：“朱大伯，新四军纪律严明，损失老百姓一草一木都该赔偿，五个月前，我的小马啃了你的柳树皮，这两元钱，请您务必收，黄克诚。”
战争年代，黄克诚如此严格对待自己，到了和平年代，条件好了，但他初心仍未改变。
1983年，党中央安排黄克诚前往玉泉山疗养，一次，小孙子不小心将一个茶杯打碎了，黄克诚赶忙问工作人员这多少钱，工作人员说去领一个就行，不用赔钱。
黄克诚坚持要赔，他说：“损坏东西要赔偿，这是我们军队的规矩，什么时候也不能违背，我是个老兵了，不能因为今天当了高级干部就不守规矩，搞特殊化。”
不仅如此，黄克诚还时刻想着为国家省点上门，1986年，黄克诚自感时日不多，他便拒绝服用药物，他清醒时，总是重复一句话：“我已经不能为党工作了，不必为我浪费国家的钱财……”
这一年，黄克诚没能挺过来。