1935年11月底直罗镇战斗胜利结束后，2团在原住地稍事休整，就经过5天行军，转到了宜川县秋林镇以北数十里的村庄驻扎。2团住在附近8、9个小村子里，梁兴初带着团部和重机枪连，住在一个塬上的一排窑洞里。2团在这里住了一段时间，进行休整和训练，而梁兴初则跟着上级领导开始考虑和前期侦察，准备东渡黄河到山西作战。
红军东征示意图
1935年12月29日，总部给101去电要求他到瓦窑堡开会，1936年1月2日，101带着侦察参谋曾思玉和骑兵侦察连一个手枪班前往开会，会后没回军团部，又赶赴黄河沿岸清涧到延长一带侦察，在黄河沿岸待了13天。1月31日总部开会决定东渡黄河，同日左权又带人到黄河沿岸继续侦察。2月11日，101又带着1师、2师、4师的师长和各团长，带领侦查人员到黄河边继续看地形，确定渡河点，梁兴初也跟着一路。梁兴初碰到101时，101问他在甘肃镇原县三岔镇负的伤好了没有，他说没有，101对他说：“那你就一边工作，一边养伤吧。”
梁兴初他们这些师、团长，分成几个小组，带着侦察科长和参谋，化装成陕北老乡，穿着棉袄裤，头扎白布手巾，肩上扛个筐子，手里拿个小锄，沿着黄河延长、延川、吴堡3县侦察。因当时是一年最冷的时候，本来计划是等黄河结冰直接走过去，但1935年冬天是暖冬，冰层不厚，只有乘船过河，从渡口强渡过河。在那里，梁兴初他们和老乡们打成一片，和老乡关系极好，一起吃小米饭、窝窝头，喝面条汤。在老乡帮助下，他们把沿线所有的地方都仔细看了一遍，连很少有人知道的羊肠小道在老乡帮助下也找到并亲自走了一遍，有时候，晚上他们还偷偷摸过河去，侦察对岸敌人的据点和火力配备，画上地图，再回到河这边来。
梁兴初这次侦察在黄河边走了有七、八十里路，发现了阎锡山军队弱点，就是他的兵力分散在各个地方，还经常看到晋军士兵穿着大衣，背着枪睡大觉，素质不高。最后101将强渡地点选在陕北绥德县沟口村，对面就是山西柳林三交古镇。
2月20日20时，红1军团从绥德县沟口开始强渡黄河，红5团曾国华带领24名突击队员第一批强渡成功，随后红2师顺利过河。开始2团作为2师后备队，因晋绥军战斗力不高，没有捞上大仗打，后来最大的一次硬仗是与关麟征的25师在山西大宁县打的堡村崾阻击战。
4月17日红2师从隰县午城镇方向进入大宁县太德塬，25师也跟到了太德塬，18日晨战斗就在龙吉村马王庙附近打响，先是红2师向永和桑壁镇北撤，红5团作为后卫在后阻击，边打边撤，到了堡村崾一带，因地形好就在此阻击25师，战斗到下午3点，25师一部从堡村西南下沟经燕家河迂回，对5团进行合击，给5团造成一定损失，领导就让梁兴初带2团换下5团，要求把25师顶住。
梁兴初带2团上去后，利用大宁各处称呼“崾”的地形，构筑坚固工事，顽强抗击了三天，到第三天晚上接到命令才随2师向西南方向撤退，把敌人引向西南，以便主力从西北永和县黄河渡口回陕北。梁兴初就率2团撤退，快速向吉县前进，天快亮的时分，来到离吉县十几里路的地方，看到山坡上有敌人的一个连在放连哨，于是断定吉县驻有部队，向师部汇报后，当时刘亚楼生病了，邓华主任和参谋长熊伯涛命令2团担任后卫掩护，掩护全师向西转移。梁兴初观察地形，估摸敌人只有1个连百来人，相距不到1里，当机立断决定趁其不备把它消灭，就命令1连和3连摸上去，不到20分钟就把这个连包围缴械投降了。天亮以后，2团之后也撤退了，因吉县敌人消息不明，也不敢出城追击，2团顺利追上师部，随后安全渡过黄河。
延川县大相寺会议旧址
回到陕北后，在5月14日,红1方面军在延川县大相寺召开团以上干部会议，总结东征经验,部署西征任务，梁兴初也参加了会议。在会上，批评1军团的本位主义时，也揭发了红2团的一件陈年旧事。那是直罗镇战役后，2团的伤员，包括1个副连长、4个排长、10几个战士被送到延长的后方医院治疗，伤好后医院不让他们回2团，要留在医院分配工作。本来这是那时伤员安置的正常程序，但2团干部战士有点恋家，梁兴初和2团政委知道后，上报师部同意后，就派人去接人结果没接出来，然后梁兴初俩人就带上一个排，去医院强硬的把伤员要回了2团。
会上这件事被捅出来后，参会人员眼光都盯向2团的领导，幸好师长刘亚楼站出来说这事是他同意的，把责任承担下来，但是梁兴初还是受到了处罚，就是在会上站了一会儿，后来才叫他坐下。从这件事上看，梁兴初和战友关系好，性格随和，战友可以叫他外号“梁大牙”，但其实他也是有性格的，有时也是一个“刺头”。