在程善之所著《残水浒》中，梁山好汉的结局与《荡寇志》、《水浒后传》等续书截然不同。书中梁山好汉的结局分成了五种，一种是主动离开梁山后退隐不出；第二种是接受朝廷的招安，成为朝廷官吏；第三种是在抵抗官军的战斗中阵亡；第四种是死于梁山内讧当中；第五种是被官军抓获后等待处理。在五种结局当中，首次出现的是第一种。这个第一位离开梁山的好汉是谁呢？他便是在梁山排名高居第四位的入云龙公孙胜。
公孙胜离开梁山的经过，出现在《残水浒》的第七十二回。据书中描述，林冲、武松奉命下山抢劫官军粮草时，遇上了昔日的同僚、八十万禁军教头王进。随后，王进受到宋江的邀请，在梁山住了一天，并向梁山好汉们介绍了北方的战事。到了第二天，宋江、卢俊义等人在梁山脚下的断金亭送走王进后，公孙胜突然提出返回家乡蓟州的要求。宋江等人非常吃惊，连忙询问缘故。
公孙胜回答道：“蓟州一城，一月之内，被围三次，虽然不曾攻开，但属下各县，都已焚掠一空。契丹兵马，一面抵挡女真，一面抵挡大宋，还嫌不够，哪里还有空来征剿？这是王进昨日在忠义堂上谈北边军事说起的。公孙胜母亲，便住在蓟州属下九宫县二仙山，怎能不惊慌呢？”
对于公孙胜提出的理由，宋江和吴用等人不便反对，便提出了另外的解决之法。吴用认为，如今北方战事正酣，局势混乱，应该想一个较为稳妥的方法才行。吴用提出，自己回山后想一个两全其美的方法，将公孙胜的母亲接到梁山，以便公孙胜照顾。宋江一听，连忙在一旁附和。不过，公孙胜的态度却非常坚决，自称“心急如焚，却等不得”，坚持要走。神行太保戴宗见状提出施展神行之术，送公孙胜前往蓟州，结果也遭到了公孙胜的婉言拒绝。
就在此时，在加入梁山时拜公孙胜为师的混世魔王樊瑞突然站了出来，表态说要随师父一起前往蓟州。宋江见公孙胜主意已定，只好表态同意。临别前，宋江特意嘱咐道：“好好！只是公孙先生，见了母亲，务必设法接到山泊里来同住，公私两尽。”于是，就在王进刚刚离开梁山后，公孙胜和樊瑞也离开了梁山。至此，公孙胜成了第一位离开梁山的好汉。
不过，令宋江等人没有想到的是，公孙胜离开梁山后，从此之后再也没有回到梁山。不久后，被派往蓟州寻找公孙胜的段景住、石勇回来禀报宋江，九宫县二仙山被强盗占领，公孙胜母子和罗真人早已消失无踪。
那么，身为梁山四巨头的公孙胜为何要一去不复返呢？《残水浒》第七十四回中，玉臂匠金大坚在与圣手书生萧让的谈话中，道出了事情的真相。按照金大坚的表述，公孙胜离开梁山，是担心遭到杀人灭口，因此才离开梁山避祸。这又是怎么回事呢？
石碣碑之事过后，公孙胜对宋江、吴用非常失望，下定决心伺机离开梁山，以便惨遭杀人灭口的噩运。为此，他还专门告诉参与此事的萧让和金大坚，让二人万分小心，“怕有借军法杀人灭口的事”。当王进上山将北方战事情况相告后，公孙胜立即意识到，这是自己离开梁山的最佳时机。因此，他才以回家照顾母亲为借口离开梁山。回到二仙山后不久，公孙胜又带着母亲前往雾灵山参同道院，与师父罗真人一起潜居修行，从此远离尘世。