众所周知，新中国有57位开国上将，其中从四野走出的上将多达20余人，这其中就黄永胜，可惜他却走上了错误道路，因参与阴谋活动被判有期徒刑18年，不过他在狱中却受到了优待。
1971年9月，黄永胜等人被隔离审查，他从昔日的总参谋长变成了狱中人，自然是难以适应狱中生活的，黄永胜提出想吃肉，狱中工作人员向上面反映，不久后最高指示传达：“有资格吃好，应该吃好。”
黄永胜在狱中受到优待，主要还是因为他当年在战场上立过功、流过血。1981年9月，黄永胜被批准保外就医安置，他被安置到了青岛生活，组织上每月对他有一定的生活补助，同样是因为他曾立过功。
有了组织上的照顾，黄永胜在青岛是生活没有后顾之忧，在吃穿住方面他不用担心，能够像普通人一样正常生活。黄永胜在青岛很是低调，过着深居简出的生活，平时几乎不出门。
黄永胜虽然戎马多年，但是他养成了读书的习惯，平时在家中多半是看书和写东西，他家中藏书有一千多本，娱乐方面他喜欢拿着收音机听戏，他晚年的言谈举止，丝毫让人看不出他是一位戎马半生的将军。
黄永胜17岁就参军了，他参加了秋收起义，之后跟着队伍上了井冈山。黄永胜的文化水平不高，更没有上过正规的军校，不过他肯学习，并且对自身要求也高，每次打完仗之后他先会清洗一番，把自己收拾的干净整洁。
在黄永胜以身作则的带动下，他手下的战士们个个都养成了良好的习惯，他带的队伍逐渐成为了一支作风过硬战斗力强悍的队伍，战士们也养成了看书学习的好习惯，黄永胜起到了很好的带头作用。
黄永胜身边的一个警卫员，由于结婚了工作出现调动，原本黄永胜计划让警卫员先去军校学习一段时间，过后可以安排一个好一点的职务。没想到警卫员不爱学习，于是黄永胜给他安排了一个副职，理由是不爱学习不能任正职。
黄永胜不仅带兵如此，在家中教育子女也是如此，他对子女们非常严格，据黄永胜的儿子黄正回忆讲述，家中的孩子们都怕父亲黄永胜，尤其是吃饭的时候，几个孩子一点也不敢浪费粮食。
然而随着黄永胜职务越来越高，他却逐渐丧失了党性原则，走上了错误道路，参与阴谋活动，好在组织上考虑他立功过，对他给予了优待，出狱后的黄永胜在青岛跟儿子一家人生活。
晚年的黄永胜享受到了天伦之乐，遗憾的是他的身体并不好，1983年，黄永胜被查出患有肝癌，随后开始住院接受治疗，在医院的黄永胜自感时日不多，于是他在病床上向组织提出了一个要求。
黄永胜希望能在去世前穿一次军装，他已经被开除了党籍和军籍，按理说他是提了一个过分的要求，不过组织上还是破例批准了，黄永胜在临终前穿上了55式军装。1983年4月26日，黄永胜在青岛病逝，终年73岁。