1930年5月14日，彭德怀率领红五军将修水县城层层包围。此时，部队刚刚打完平江县城，取得了重大胜利，部队士气高涨，都高喊一鼓作气拿下修水县。
但是，彭德怀在指挥部队合围后，并没有冒然展开行动。一方面，修水县城城防怎么样，还没有完整准确的侦察情报。另一方面，部队前面攻打平江县，虽然非常顺利，但损失也不小，需要进行一下休整。
为此，彭德怀命令各部队原地待命，加强对城内的侦察，并得到了城防的第一手资料。这里不但有国民党第五师独立团一个整营的兵力，更有数百名警察，还有两个民团，而且他们手里的重火器也很多，可以说城防十分坚固，犹如铁桶一般。
彭德怀迅速召开作战会议，最后决定把这个艰巨任务交给第五纵队来完成。很快，第五纵队发起了进攻。但是，敌人的城防实在是太坚固了，五纵发起多次进攻，都没有取得突破，敌人的重机枪居高临下一扫射，我军就牺牲一大片，战事陷入了焦灼。
就在这个时候，刚刚来红五军报到不久，担任五纵八大队政委的黄克诚，主动向纵队司令李灿请缨，向他请求说：“司令员，让我带着八大队再打一个冲锋，请相信我！”
实际上，李灿也对这个年轻的，戴着高度近视眼镜的大队政委不熟悉，也不知道他的指挥能力如何。但是，眼前并没有好的攻城办法，于是，李灿便同意了。
他叮嘱黄克诚，攻城时务必一鼓作气，实在不行了就撤下来再想办法，不要搞无谓的硬冲，以免牺牲太大。黄克诚受领任务后，重新对八大队进行了动员，然后带着部队开始冲锋。
敌人的火力实在太猛了，几个小组冲出去后，都被机枪打得抬不起头，想接近城墙都非常难。但是，黄克诚经过观察发现，只要到了城墙脚下，就进入敌人的射击死角，再架梯子攀上城墙，打开缺口的希望就大了。
于是，黄克诚冷静地带着一组人，并没有硬冲，而是巧妙地绕到墙根下，然后架起了云梯，第一个登梯子上城墙。此时，一个敌人发现了他，赶紧跑过来准备推梯子。
黄克诚一边开枪一边往上爬，敌人不敢冒头。可黄克诚打了几枪之后，突然发现子弹没有了。于是，他扔掉枪，先扔了一颗手榴弹上去，然后从后背抽出大刀继续往上爬。
手榴弹爆炸后，又有敌人想推梯子，可此时黄克诚已经爬到了顶端，他大刀一挥，迅速朝敌人砍去，敌人被砍没站稳，顿时栽下了城墙。黄克诚借机一个大步跨上城墙，挥舞着大刀冲向敌人。
此时，其他人也陆续爬了上来，与敌人展开肉搏，随着登上城墙的人越来越多，我军指战员越战越勇，最后部队发起了总攻，成功地拿下了修水县城。
军长彭德怀专门登上了城墙，然后四下里问，他在望远境里看到第一个爬上城墙的，是一个戴眼镜的年轻人，问这个人是谁。
纵队司令员赶紧对彭德怀说，这是刚刚到八大队任政委的黄克诚。就在这时，有战士将黄克诚找了过来，他向彭德怀敬了一个礼，说自己是黄克诚。
彭德怀笑着对黄克诚说：“你很勇猛啊，打一仗认识一个人，修水战斗让我们了解了黄克诚。”黄克诚听后谦虚地笑了，说这都是政委应该做的。
彭德怀听到这里，表情突然严肃起来，训斥黄克诚说：“这正是我要批评你的。下次作战不允许再抡大刀冲锋了。那么大一副眼镜片子，一看就是个官，容易挨枪子，你是大队政委啊，牺牲了谁来指挥呢？”
黄克诚听后，脸红了一下，表示会记住军长的教诲。不久后，红五军进行整编，将所有部队编为了三个纵队，黄克诚被提升为三纵队二支队政委。
从此以后，他也开始了在彭德怀麾下征战的日子，两个人因为脾气秉性特别相投，也成为了一生肝胆相照的战友。