中央红军长征中，1935年初遵义会议后四渡赤水，在战略上争得先机，特别在二渡赤水后，取得了遵义战役的胜利，这是红军长征中最大的一个胜仗。梁兴初当时在红1军团2师5团当3营长，5团是主力团，梁兴初也为战斗胜利作出很大贡献，特别是战斗胜利追歼吴奇伟中央军，梁兴初跑在了队伍最前面，在晚上第一个发现敌人，与敌人混战取得胜利，俘虏不少敌军。然后乘胜继续追击，把吴奇伟部追到乌江边，迫使吴奇伟砍断了乌江浮桥。
遵义战役老鸦山上战斗遗址的战壕
中央红军二渡赤水，快速向遵义城挺进，1935年2月24日，红1军团攻占桐梓，2月25日，红3军团一举攻占娄山关，26日，红3军团在娄山关激战后打败王家烈黔军，27日，红军乘胜追击到了遵义城下，28日一早在遵义老鸦山、凤凰山、忠庄铺一带，遵义战役打响。红3军团在正面防守老鸦山、凤凰山，阻挡吴奇伟中央军和王家烈黔军进攻，红1军团在川黔公路东南方隐蔽移动，迂回横扫吴奇伟指挥部忠庄铺，使得敌军失去指挥，自乱阵脚，很快就向贵阳和金沙方向溃逃。
遵义战役时，梁兴初带3营刚从桐梓赶到遵义，顾不上休息，马上随5团从遵义城出发，迂回到遵义往贵阳川黔公路东侧的一个山边隐蔽，旁边有一条溪流。2师开了连以上干部动员会，快到傍晚时，1军团部下令全线进攻，向忠庄铺吴奇伟指挥部进击，当时2师陈光和刘亚楼都在5团随军指挥，梁兴初带着3营勇猛的从山上往下冲锋，插到了忠庄铺附近贵阳至遵义的公路上，使忠庄铺敌人混乱起来，最开始是王家烈带黔军跑路，然后吴奇伟也带队向贵阳方向乌江边跑。这样一来，敌军在前方的部队和向后溃退的指挥部被拦腰截断，中央红军就开始由北向南穷追猛打溃逃之敌。
遵义战役中梁兴初追击示意图
梁兴初带3营一直追，追到天黑，追了大概有20几里路，因为从桐梓到现在，不是打仗就是走路，战士们很是疲劳，跟在5团指挥的陈光就下令原地休息。梁兴初他们就沿着公路右边的斜坡停下了，有的战士因为太累一躺在地上就睡着了，有的还打起呼噜。红军战士都开始在休息了，但是马路的左边还有匆匆的脚步声和嘈杂的说话声，开始以为是其他单位的在走动，陈光为此还冒火，问是哪个部队的。
在前面的梁兴初听到声音，因天黑看不清楚，他站起来，伸头向前面一看，与一个人撞了个面对面，当他看清了对方头上的青天白日帽徽，不禁大吃一惊，才晓得与敌人在一处宿营了。梁兴初立即向陈光报告：“不好！左边这股是败退下来的敌人。” 陈光立即悄然传令，消灭左侧故人。
梁兴初他们把休息的战士推醒，悄声告诉了情况，然后立即扑向公路左侧，冲进了敌群，拉大网似的围歼溃逃之敌，一下子就把敌人打懵了。有的敌人不知道发生什么情况，甚至还在叫喊：“别开玩笑呀！”梁兴初他们一直向左边的路坡冲下去，一路搜索，把顽抗的敌人消灭，剩下的都成了俘虏。消灭了宿营的敌人后，战士们睡意消失得一干二净，也不觉得累了，梁兴初带着3营继续向南边追击，一夜长追近百里路，一直追到了乌江边。第二天天亮，梁兴初他们追到了乌江边，吴奇伟一看就把乌江浮桥砍断了，留在江这边的敌军全部向梁兴初他们投降。
遵义战役，共击溃和歼灭中央军吴奇伟2个师和王家烈黔军8个团，还俘虏了3000多人，中央红军取得长征中最大的一次胜仗。俘虏这么多人，梁兴初立下一份功劳，而且梁兴初在追击中，也缴获不少战利品，他把一只黄色的小巧轻便的皮包送给了2师青年干事王宗槐，王宗槐非常喜欢这只皮包，使用了好几十年。红军对3000多俘虏兵非常重视，据中将刘志坚回忆，朱老总都亲自出面做了宣传，后来有2400多人报名参加了红军，增强了红军的力量。