“回国之后，我一定竭尽全力，为建设新海军而努力。”话虽如此，但林遵的心里却想，如今国内又打起了内战，眼看着就要回国，自己建设新海军的诺言，今后又该如何实现。
1946年初，正在美国担任驻美大使馆上校副武官的林遵，被临时调任海军驻美国舰队指挥官，率领由九艘军舰组成的中华民国驻美舰队，从古巴的关塔那摩基地出发，穿过巴拿马运河，沿着太平洋中航线，一边访问一边返回国内。
在舰队进入东海之后，舰队当即被解体，八艘具有战斗力的舰船被调往南京，林遵则随指挥舰前往青岛，结果在距离青岛港十多海里处，林遵所在的舰船遭到美国人的盘问，直到林遵报上了自己的军衔，美国驱逐舰才鸣哨敬礼走开。
回国没多久，林遵收到桂永清的召见，请他再度出发，收复西沙群岛和南沙群岛。率领着四艘军舰组成的舰队，林遵离开了吴淞口。登岛之后，海军官兵毁掉了日本人的主权碑，立上了属于中国的主权碑。
完成了进驻西沙群岛和南沙群岛的任务，大家都觉得林遵有望得到桂永清的重用，结果桂永清却给林遵安排了一个有职无权的职位。林遵知道这是桂永清排挤自己的手段，但他心里也十分庆幸，自己不但可以不去打内战，还能趁机了解海军的情况。
让林遵没想到的是，自己的想法还没有实施，就再一次受到桂永清的召见。刚一进门，桂永清就满脸堆笑地走了上来，嘴里连声说着“恭喜”，然后忽然严肃地向林遵宣布：
“奉蒋总统面谕，提升你为海防第二舰队海军代将司令。”
这突如其来的任命，让林遵一时间有些发懵，他知道所谓的“海防”，实际上防的是共产党。但林遵没敢当面表现出自己的不满，满嘴说着应酬话，将桂永清敷衍了过去。
离开了海军总司令部，林遵算是想明白了，蒋介石这是要自己守住长江，以支持陆军作战，保住半壁江山。果然不出所料，上任第二天，林遵就接到紧急命令，率领“海防第二舰队”进驻长江。
当时“海防第二舰队”虽然只有六艘军舰，而且都是破旧的小舰艇，但真要打起仗来，对长江两岸的解放军和老百姓还是有一定威慑力的。林遵不愿当千古罪人，再三考虑之后，林遵下定决心不再为国民党“卖命”。
自此，林遵开始物色亲信，秘密筹划起义，并积极寻找能够联络到中共的人。
而此时上海地下党也在积极策动林遵起义。他们首先派林遵的同乡潜入国统区，尝试与林遵接触，好不容易等到林遵的舰队靠岸，将党组织化名写的一封信托人递给了林遵。
结果十分谨慎的林遵看过信之后，担心其中有猫腻，便让手下将来人打发走。没过多久，林遵的同学郭寿生来访，此人是国民党海军司令部上校专员，林遵一见他大摇大摆的样子，就知道他不是奉桂永清之名来的。
在老友面前，林遵毫不隐晦地说起了自己的想法，直言桂永清说是重用自己，实则是排除异己，自己实在不忍心将枪口对准自己的同胞。郭寿生指着江北对林遵说，如今他想洁身自好根本办不到，唯一的出路还是速登彼岸。
“很早我就决定走这条路了，但至今尚未找到救苦救难、普渡众生的观世音啊。”林遵惋惜地说道。没想到郭寿生一听林遵的话，却哈哈大笑起来：“你啊，你啊，高僧就在你面前，你真是有眼不识泰山！”
林遵一听郭寿生的话，立刻两眼放光，看来困扰自己的问题终于有解决的办法了。
不出林遵所料，郭寿生的确是潜伏的共产党员。早在1921年中国共产党刚刚成立的时候，郭寿生就已经和共产党取得了联系，并且加入了青年团，在海军中开展团的工作。
1922年从烟台海军学校毕业后，郭寿生被派到南京，和共产党人接触的机会更多，并且正式转为了共产党员。在返回烟台继续学习期间，郭寿生创办报刊宣传革命，还在学校里成立“新海军社”，作为党团的外围组织，为党组织吸收新鲜血液。
1924年国共第一次合作期间，郭寿生以个人身份加入国民党，并进入国民党海军工作。大革命失败后，党中央专门派人找到郭寿生，让他继续在国民党海军中潜伏，但由于此时海军中形势已变，郭寿生难以立足，便暂时回老家躲避。
结果由于党的工作已经全面转入地下，郭寿生无法找到党组织，不久便与党失去了联系，开始了孤独的生活。
在上海党组织派人与林遵接触失败后，便开始找人与郭寿生接触。在对郭寿生近些年的表现经过调查后，周恩来指示上海的党组织，可以对郭寿生暴露自己的身份。在听到“周恩来同志请你归队”的指示后，郭寿生高兴地说：
“周恩来很了解我，他叫我归队，我就归队！”
就这样，郭寿生重新回到党的怀抱，并亲自策动林遵起义。经过一番艰苦的努力，林遵在1949年4月，率领第二舰队宣布起义，加速了长江防线的崩溃。新中国成立后，郭寿生受邀参加了开国大典，1955年还被授予三级解放勋章。