朝鲜局势慢慢缓和后，中朝双方开始着手协商撤军的问题。
1957年11月，毛主席访问苏联，巧的是，当时的金日成也在苏联访问，两国领导人见面后商谈起了志愿军撤离朝鲜的事情。
毛主席表示，朝鲜局势基本稳定，志愿军支援朝鲜战场，后续又帮助朝鲜建设，基本完成了使命，是时候撤出朝鲜了。
1958年2月中旬，周总理访问朝鲜，中国代表团中有陈毅（外交部长）、张闻天（外交部副部长）和粟裕（总参谋长）等人。
中方代表与朝鲜政府磋商的主要问题就是撤军问题，但是呢，朝鲜方面有些顾虑，不太想同意撤军。
为什么呢？这倒不是朝鲜想要占中国的“便宜”，而是他们顾忌美国，虽然说当年已经签署了停战协议，但如果美国说话不算话，等志愿军前脚刚撤走，美国和李承晚后脚再打过来，朝鲜恐怕顶不住。
最后，在获得中国政府的承诺以后，朝鲜方面才同意了撤军，双方达成一致以后，摆在眼前的又是一个问题，究竟该什么时间进行撤军呢？
针对这个问题，周总理询问了杨勇和王平的意见，周总理问道：
“志愿军准备在今年上半年全部撤出朝鲜，你们有什么意见？”
杨勇其实也思考过这个问题，他回答道：
“我们拥护中央的决定，不过，我有个建议，志愿军最后一批撤出朝鲜的时间，能不能推迟几个月，安排在10月25日，那时正是志愿军出国作战周年纪念日。这样一来，志愿军还可 以帮助朝鲜再建设几个月。”
杨勇的想法很全面，最后也获得了中央的肯定。
当时已临近新年，周总理和杨勇、陈毅等人干脆就在志愿军总部召开了欢迎大会，除夕之夜，大家和朝鲜人民一起载歌载舞，期间，周总理还畅饮了一番，有意思的是，杨勇的酒量不太好，总理尽兴之时，杨勇已经醉了。
2月19日，周总理与金日成共同签署了联合声明，决定在1958年的年底将志愿军全部撤出朝鲜，其中，在志愿军的声明中有这样一段：
“在我们即将开始撤出朝鲜国土的时候，我们愿意向朝鲜人民保证，虽然我们即将离开你们 了，但是，我们的心将永远同你们在一起，我们仍然会像在朝鲜时一样，继续关注我们两国人民反抗侵略、保卫和平的共同事业。如果美帝国主义和他的追随者胆敢破坏朝鲜停战协定 的尊严，再一次发动侵略战争，那时只要朝鲜人民和朝鲜政府认为需要，中国人民将会毫不迟疑地派出自己的优秀儿女，再一次跨过鸭绿江，同朝鲜人民军一起为粉碎敌人的侵犯而共同奋战到底。”
这份志愿军的声明给了美国等西方国家一个“下马威”，在不影响撤军的同时也有力地保证了朝鲜人民的安全。
随后，作战处开始组织起了撤军工作，因为工作繁重，肯定不能同时撤走，于是计划5个军分3批撤离。
撤离计划是完全保密的，最初的一批撤离时，都是使用的闷罐子车，只是简单在地板上面铺了一层草。
这一举动就是为了看一看“联合国军”会不会采取什么行动，当确认安全后，后面的几次撤离计划就变成公开的了。
像杨勇这样的首长和司令部的主要人员因为工作需要，一般都是最后撤出朝鲜的。
把志愿军从朝鲜撤回国，战士们的安置问题是中央必须要考虑的一个大问题，对此，杨勇给出了自己的建议：
“济南军区现在人员较为匮乏，建议第19兵团并入济南军区，充实济南军区的机构，关于原志愿军司令邓华曾经提议，可以在长春设立吉黑军区，这完全是可行的，这个地方距离朝鲜较近，方便观潮朝鲜的局势，如果再次开战，也方便及时支援。”
不得不说，杨勇的考虑是非常周全的，最后的撤离方案也基本是按照杨勇的想法来的。
一晃好几个月的时间过去了，在杨勇和王平即将回国的时候，他们成为了朝鲜人民的焦点。
为了欢送杨勇等人，有一位朝鲜老人翻山越岭摘了一颗野山参送给了他，寓意着健康长寿。
为了表达尊敬，朝鲜政府还特意指示沿线的交通道路要一路开放绿灯，为志愿军提供方便，同时也有一路顺风的寓意。
10月24日，杨勇与金日成见面了，在平壤的国立艺术剧场，杨勇等人受到了热烈欢迎，杨勇说道：
“明天是10月25日，正是志愿军8年前出国参战的日子，我们从出国到回国，在朝鲜整整度过了8年时间。这8年，是中朝人民的传统友谊在鲜血和汗水的灌溉中空前巩固发展起来的8年，是英雄的朝鲜人民用自己的双手从废墟中重建起更雄伟更美丽家园的8年。同时，这8年也是全世界范围内东风压倒西风的8年。我们坚信，无论是武打还是文打，帝 国主义终究是死路一条，我们正义的事业必然胜利。我国的台澎金马必定会重归祖国的怀抱，历史巨人会给我们来作证的。”
值得一提的是，志愿军在临行前举行了告别宴会，最后在金日成的坚持下，志愿军又受到了国宴款待，宴会上，杨勇发表了讲话：
“中国人民在抗美援朝战争中早已有切身的体会，美帝国主义不过是一只纸老虎。侵略成性 的美帝国主义，不仅至今没有从南朝鲜撤走，反而又进一步在台湾海峡地区疯狂地向我国 人民进行军事挑衅和战争威胁。如果美帝国主义敢于把战争强加到我们头上，那么，比在朝鲜战场上更惨重的失败就将无情地降临在它的头上。”
10月25日，杨勇临行的那一刻，金日成等朝鲜领导人亲自来到车站，陪同杨勇检阅了朝鲜人民仪仗队，广场上聚集着20多万朝鲜人民，杨勇含着泪说道：
“中国人民志愿军全部撤出朝鲜的最后一次列车就要启程了，我们怀着无限留恋的心情，向敬爱的首相告别向朝鲜劳动党、共和国政府领导同志告别向亲密的战友人民军告别向英雄的朝鲜人民告别……我们在朝鲜美丽的国土上，同英雄的朝鲜人民一起战斗，一起生活了整整8年，在这分别的时刻，千言万语也难表达我们此刻的心情。我代表中国人民志愿军全体官兵，再一次向兄弟般的朝鲜人民致以最崇高的敬意和最深切的感谢感谢朝鲜人民年来对我们无微不至的关怀，感谢朝鲜人民给予我们的崇高荣誉和如此热情的欢送！”
就这样，杨勇坐着最后一列车缓缓驶离了朝鲜，车上的人全都忍不住哭了起来，摄影记者也忍不住掉下了眼泪。
列车的终点是北京，途中路过了沈阳、锦州、唐山、天津等大城市，毫无疑问，志愿军都受到了热烈欢迎。
列车到达北京站后，还没停稳呢，早早等待在这里的人群就一拥而上，周总理紧握着杨勇的手热情地说道：
“我代表党中央和毛主席、代表政府和全国人民，最热烈地欢迎你们——胜利凯旋的英雄们！”
当时的天安门广场上已经聚集了超过20万人民群众，他们早早地等待在这里，就是为了欢迎归国的英雄们。
杨勇所在的车队行驶到了体育馆，这里也聚集着上万名群众，他在周总理、陈毅等人的陪同下进入了会场，期间，现场响起了热烈的掌声。
在归国大会上，杨勇发表了慷慨激昂的讲话，讲话的内容主要围绕着战略这方面进行的，期间，他念了一首诗：
“枪擦亮，刀出鞘，胸中怒火在燃烧，祖国我向你宣誓，命令一下马上到！”
在回国后的很长一段时间里，杨勇一直都是生活在鲜花和掌声之中，在他心里，其实也为那些牺牲在朝鲜战争上的老战士们惋惜：
“最早人朝参战的部队和干部都已先期回国了，还有许多同志长眠在朝鲜的土地上，再也回不来了……仗主要是他们打的，功劳主要是他们的。现在，却给了我们这样隆重的接待和崇高的荣誉，我感到很不安，希望同志们谦虚谨慎，努力为党为人民为祖国为社会主义建设多做工作，为部队建设贡献力量。”