1981年的8月底，在大儿子吴新潮和女儿吴巴璀的陪同之下，66岁的吴法宪走出了监狱，跟随吴家人一行的还有负责安置的工作人员。一行人坐上了从北京开往济南的绿皮火车，一路摇晃着来到了济南。
吴法宪的妻子陈绥圻，也于同年从浙江农场结束了劳动来到北京，在丈夫和儿女们去济南的时候，她还需要滞留北京，等自己的问题处理完毕后，才能去到济南和丈夫团聚。
和黄永胜一样，吴法宪出狱后也需要换一个名字重新生活，因此，他就用回了自己曾经的原名“吴呈清”。这个名字还是当年他上私塾的时候，先生给他取的学名。
济南这座古老的城市，也迎来了一个老人23年的晚年余生。
到达济南之后，那边专门安排了一个姓赵的科长，由赵科长专人负责吴法宪在济南的安置工作。在得知吴法宪要来济南之前，赵科长早就给吴家人安排了房子，也是一处新落成的小区，名叫七里山小区，这个新小区的环境很幽静，居住于此的也多是上了年纪的老人。
给吴法宪安排的是一套两居室，面积大约有四十多个平方左右，屋子里的家具设施一应俱全，吴家人只需要采购一些生活用品，就可以直接入住了。在赵科长的带领下，吴家人乘坐汽车来到了他们的新家。
赵科长人很热情，因为吴家的长子吴新潮不熟悉小区的环境，他特意带着吴新潮去附近购买生活用品。等一切安置妥当之后，临走之际，赵科长还给了吴法宪50元，告知他们，这是提前预支给他的生活费。
当时，为了保障吴法宪晚年的基本生活，组织上一开始每个月给他150元的生活费，1983年的时候，这笔生活费涨到了200元。
因为吴法宪常年在部队过着集体生活，因此，他缺乏一些基本的生活常识，譬如，他不会使用煤气灶，也分不清纸币的单位，不清楚“圆角分”之间的区分。幸而在妻子还没在身边的时候，有女儿吴巴璀照顾着他。
同年的十月份，滞留在北京的陈绥圻也等来了自己的处理结果，不仅恢复了她的职务，还给她按照副师级的退休待遇发放工资，每个月可以拿到100元的工资。
等到处理结果下来后，陈绥圻马不停蹄的赶到了济南，和离别十年的丈夫团聚了，老俩口也正式开始了自己的晚年生活。
有了妻子的陪伴后，吴法宪的晚年也是过得恬然自得，老有所依，老有所福。1982年的元旦，这是吴法宪出狱后过的第一个元旦佳节，儿女们特意带着家人来到济南，和父母共度元旦。
这一年的元旦，吴家十分热闹，小小的两居室里面，挤进了10多个人，有老的、中的、少的，欢声笑语不时沿着窗户窜了出去。大家伙吃过晚饭后，就把客厅简单的收拾出一个可以跳舞的地方，放着音乐，跳起了曾经风靡一时的交谊舞。
在七里山小区居住的日子久了，吴法宪也过了最初的不适应，从足不出户到主动拿着个小马扎下楼，找他的那些老伙计们打牌、下棋。虽然大伙都知道他是“吴将军”，但基本上都称呼他“老吴”，吴法宪对于“老吴”这个称呼甚是满意，听起来就有一股亲切感扑面而来。
到了九十年代的时候，又重新给吴法宪分配了一套大房子，这是一套独门独院的洋房，面积有近130平方米。而且，尽管他早在1988年就服完了刑期，给他颁发了刑满释放的证明，但是他每个月的生活费也没有取消，还涨到了1500元。
俩夫妻从那狭小的两居室搬到新家的时候，大儿子吴新潮自掏腰包，用自己的转业费给父母购买了一台大彩电，用于庆贺父母的乔迁之喜。
时间来到2004年，89岁的吴法宪也来到了生命的终点站，这年的10月17号，下午三点五十八分，吴法宪于济南的齐鲁医院病逝。