1989年春，北京，黄维原本准备参加有关会议，却因突发心脏病住进医院。病榻之上，这位曾经指挥国民党第十二兵团的将领，已经很少谈论战场得失，更多时候牵挂的，是海峡两岸能否早日恢复往来。
黄维的一生，转折并不在战场上结束。1948年淮海战役中，他率部在双堆集被围，11月25日被人民解放军俘虏。兵团覆灭、本人被俘，对一个旧军人而言，打击极重。刚被押送时，他情绪低落，却仍不愿承认失败，更不肯在劝降书上签名。
有人劝他看清形势，他只回答：“败仗可以承认，别的不能乱说。”这句话，既有固执，也有当时的心理防线。黄维受过系统军事教育，长期担任国民党军队高级将领，对自己的判断和部队能力颇为自信，突然成为俘虏，自然很难立刻完成思想转变。
改造不是几句口号就能完成的事。
1950年以后，黄维先后在功德林等地接受管理。他起初拒绝正面回答历史问题，把失败归结为指挥失误，对战争责任则反复辩解。尤其涉及淮海战役中的一些争议问题，他始终不愿承认自己应负的责任。
与许多战犯不同，黄维后来把精力投向了“永动机”研究。他认为，只要在科学上有所成就，就能凭本事走出监所。这个想法在专家看来并不成立，但管理人员没有简单粗暴地打断他，而是让他在一次次推演、计算和失败中逐渐面对现实。
中国科学院对他的设计作出否定后，妻子蔡若曙曾专程劝说。她没有绕弯子，直截了当地说：“改造是政治问题，不是永动机问题。”黄维听后沉默许久。此前，他甚至对妻子下过逐客令，这一次却没有再争辩。
有意思的是，正是这项没有结果的研究，成为他思想松动的入口。黄维开始重新整理自己的经历，写检查，向妻子道歉，也逐步交代从赣州战役到淮海战役之间的历史问题。他后来把1948年称为国民党军事失败的一年，把1958年看作自己思想上真正“缴械”的一年。
1959年12月4日，第一批特赦战犯名单公布，黄维没有出现。蔡若曙没有责怪管理部门，只对丈夫说：“不是政府不放你，是你还没有改造好。”这句话听起来重，却准确点中了问题所在。黄维原本曾进入考虑范围，只因认罪态度不够成熟，未能列入首批名单。
1975年3月21日，黄维获得特赦，成为最后一批被特赦的战犯之一。那时他已经在监所度过二十六年，身体也多次病危。1953年，他患严重结核病并出现腹水，管理部门请专家会诊，还设法购置药物救治。特赦前夕，他又突发心绞痛，被紧急送医。
黄维离开抚顺战犯管理所时，所长金源陪他到北京。临别之际，这位一向克制的老人竟红了眼眶。对他来说，抚顺既是服刑之地，也是完成思想转变的地方。多年以后，八十二岁的黄维还专程回去，在那里住了一晚。
出狱后的黄维被安排担任全国政协文史专员。妻子蔡若曙带着儿女等了二十七年，终于在北京与他团聚。遗憾的是，家庭生活只维持了一年。长期的压抑、担忧和精神创伤，使蔡若曙的身体状况越来越差。1976年，她投河离世，黄维受到沉重打击，挽联上写下“难妻”二字。
也正因为经历过这些，黄维对“恩”看得很重。20世纪80年代后期，台湾方面曾邀请他赴台居住，并提出补发他离开台湾多年间的军人工资。面对这一安排，黄维没有犹豫，只用七个字回应：
“共产党对我有恩。”
这七个字，并非简单表态。黄维清楚记得，自己病重时得到的救治，也记得妻子和孩子在大陆生活期间并未受到牵连。女儿报考大学遇到困难，有关方面还专门过问；蔡若曙回到上海后，也通过劳动维持生活。对一个长期被视为旧政权高级将领的人来说，这些经历比任何说服都更有分量。
拒绝留台，并不意味着黄维拒绝与台湾亲友往来。恰恰相反，他晚年多次前往香港，与旧日同僚和亲友联系，希望借助自己的特殊经历，为两岸沟通做些事情。他曾说，自己年纪尚能行动、头脑尚清醒，愿意为和平统一尽一份力量。
1989年初，黄维从香港返回北京后，仍在为相关事务奔走。后来他因病住院，3月20日心脏病突发逝世，终年八十五岁。关于他“准备赴台定居”的说法，后来被家人澄清：他确实有探亲和交流愿望，却不是要离开大陆，更不能把赴港联络误说成已经决定在台湾生活。
黄维晚年反复强调，抗日战争不应被割裂，国共两军都曾为民族抗战付出牺牲。2005年纪念抗日战争胜利六十周年时，女儿黄慧南代父领取纪念勋章。那枚勋章，补上了黄维晚年始终惦念的一件事。