1937年3月，西路军政委陈昌浩在石窝山紧急召开了师以上的干部会议，讨论西路军失利后部队的行动方针。此时西路军已经战至最后，必须分兵行动了。
会议决定：徐向前、陈昌浩返回陕北，向中央汇报情况；其余人组成西路军工作委员会，由李先念统一军事指挥，李卓然负责政治领导；现有兵力一分为三，由张荣、李先念、王树声各自率领一部，在不同的方向活动，以保存基础力量。其中，王树声率领的右支队人数为700多人。
在凛冽的北方中，王树声和右支队的同志们向大家告别，之后向北活动。他们的第一个任务是掩护徐向前、陈昌浩返回陕北，以及掩护左支队行动。他们主动吸引了敌人的大量兵力，经过数天的激战，右支队大部分壮烈牺牲。鉴于掩护任务已经完成，王树声下令余部趁着夜色撤出阵地。
在夜色中，王树声率领疲惫的战士艰难前行，由于过于疲劳，不少战士在马背上就睡着了，等天亮后王树声才发现，部队前后失去了联系。王树声紧急清点了人马，发现自己身边只剩下了骑兵师师长杜义德（开国中将）、骑兵师参谋长李彩云、骑兵师作训科科长李新国，以及几个干部、警卫员、通讯员，人数只剩下20几个。
在之后几天的日子里，王树声和杜义德就率领着这二十几个人在连绵不断的祁连山里开始了艰苦的游击。
大概是七天之后，王树声在行进的路上，看到地上有一堆刚烧过的火，他仔细搜索痕迹，果然在地上找到了一张小纸条，上面是左支队李先念的笔记。王树声判断，左支队就在附近活动，于是立刻率部向西追赶。
没走多久，王树声就遇到了原红9军军长孙玉清和原红30军88师师长熊厚发，他们是左支队的人，现在却落了单，身边只有两个警卫员。王树声询问后才得知，他们在战斗中受了伤，为了不拖累部队，主动要求离开部队上山打游击。而左支队几天前就已经向新疆转移了。
王树声决定带着孙玉清和熊厚发一起行动，去追左支队。他给孙玉清、熊厚发和几个受伤的同志找了一个山洞，要他们休息，结果没过多久，这个山洞就被敌人的一个运输队发现了。一番激烈的战斗之后，王树声再也没有找到孙玉清、熊厚发等同志的下落，只能带着仅剩的十几个人继续前进。
这时候，王树声意识到，想追上左支队已经不可能了，而且敌人就在左支队的后面追赶，双方很容易遭遇。于是他决定掉头向东，朝着河东的方向前进，去找红军主力部队。
祁连山是一座平均海拔4000米的大山，常年积雪，气候恶劣，在这样的环境中行军，难度真的是不亚于长征。据杜义德将军晚年回忆：
当时他们一直在山里走，走了多久都不知道了。深山老林里，到处都是齐腰深的积雪，很少能看到人的踪迹，却能不时看到老虎的脚印。那时候根本没有吃的东西，只能吃草根，啃树皮。有人因为疲劳掉队，有人在和敌人的遭遇中牺牲。
一天早上刚醒来，王树声就看到对面的山坡上有十几个带着长枪的人朝他们的露营地走来。当他们走到距离营地几百米的时候，拿起枪对着王树声等人就是一排齐射，子弹击中了一个战士的腿部。
这些人大喊道：“红军，你们缴械吧！”
王树声让士兵大声回答：“我们不是红军，我们没有枪！”
结果对方根本不信，说他们知道是红军，放下枪就让他们走。王树声意识到，这伙人不是马家军，而是当地的地方武装。为了不和这伙人发生不必要的冲突，王树声把自己保存多年的一把贴身手枪拿了出来，说送给他们了。接着趁着这伙人还不敢靠近，带着大家迅速离开了。
越往东走，人烟越多。到6月中旬，端午节前夕，他们走出了祁连山口，又穿过了一小片沙漠，来到了村子，住进了一家骆驼店。在店里，王树声向路过的商人们打听了红军部队的消息，并告诉大家：我们已经度过了最艰难的时刻，可以大胆地往回走了。为了减小目标，剩下的同志分成两组，分路赶回陕北。临别前，王树声对大家说：“分散以后的政治表现和党籍问题，回陕北，大家互相证明。”
杜义德是跟着王树声一队的。他们又走了大约三天，距离黄河越来越近了。这时候，来迎面又来了一队人马，他们是税卡的武装，打扮是蒙古族的样子。
来者不善，杜义德等人立刻就把手枪掏了出来，准备作战。但王树声制止了他们，说他们人多没打起来没有把握。对方如果索要钱财武器，给他们就好了，一定要避免伤亡，争取和平通过。杜义德对此很不理解，王树声则说：留得青山在，还怕没柴烧？
这时候，这伙人已经来到了他们面前。他们盘问道：“你们是干什么的？”王树声回答是过路的。
“过路可以，把身上的东西留下。”
“总得给我们留点盘缠吧？”王树声说道。
“不行，全部留下。”
王树声于是让大家把携带的武器，以及自己带的20个金戒指都交了出来。
“知道你们是红军。你们以后还要过黄河来的，先把这些枪放在我们这里保存吧！”这伙人也没有继续纠缠，就放他们过了税卡。
据官方出版的《王树声传》记载：“对此，杜义德想不通，以为王树声怕死。”“过了税卡后，杜义德还是认为王树声的做法欠妥，表示了不满。同时，两人考虑人多了目标太大，遂商定分道而行。王树声仅带着自己的警卫员上了路。这件事，使王树声感到委屈……”
为了保存仅剩的部队，王树声可以说是委曲求全，煞费苦心，但杜义德却不理解。多年之后，杜义德重新回忆此事时说道：
“现在想起来，王树声是对的，他有他的考虑，这时一个策略。他是为了保存我们这七八个人嘛！正是因为听了他的话，我们才被保存下来。所以他的想法是对的。”
之后，王树声带着自己的警卫继续向东，又遇到了和部队失散的红5军保卫局长欧阳毅——因为身无分文，他正在靠卖字画维生——王树声就拉着他一起走了。一起走了几天，他们3人在夜里遭遇敌人被冲散，最后，王树声一个人继续向东，坐着羊皮筏子过了黄河。
在老乡的掩护下，王树声找到了固北县组织部长李正良，此人原先是川陕苏区的干部。在李正良的帮助下，王树声于这年八月来到了陕北，此事距离文章开头的石窝山紧急会议已经过去了小半年，这小半年的时间，王树声历经艰险，九死一生，如今脚踏黄土地，真有孤雁回巢，游子归家之感。
王树声归来的消息很快就传到了毛主席那里毛主席亲自他带来电话问题，说你回来就是胜利，并要请他吃饭，为他洗尘。这番话像一股暖流传遍了王树声的全身，让这位身经百战的将军也不禁哽咽落泪。