1942年5月，八路军总部被袭，副参谋长左权不幸牺牲后，由谁来接替左权，把八路军司令部的工作挑起来，分担副总司令彭德怀的工作压力，是十分当务之急之事。
左权牺牲前，一直是彭德怀非常得力的助手。这位曾在苏联莫斯科中山大学和伏龙芝军事学院深造过的八路军副参谋长，可谓是久经战阵、学识丰富，军政兼优、文武兼备。彭德怀对左权十分敬重，凡重大军事问题都与左权共同研究决策。当时，八路军总司令朱德已回延安，这样一来，“彭左”就代替了“朱彭”，“成为八路军指战员对自己前方最高指挥的亲切称呼”。
对于左权的工作精神和状态，有人曾这样描述道：“在这掌握半个中国战场的八路军总指挥部里，左权同志的确是最忙的人了”。
左权这一牺牲，对彭德怀的打击非常大，等于失掉了半个天似的。《彭德怀传》这样说道：“没有谁比彭德怀更深切、更痛心地感到左权牺牲的损失。谁来弥补这个空缺呢？”
经慎重思考，彭德怀最终向中央提出了3个来前方工作的参谋长人选，具体是：“兼备文韬武略的中共中央军委参谋长叶剑英；能征善战，刚从苏联养伤回国，也恰恰是36岁的林彪；党性坚强、熟悉敌后情况的抗日军政大学校长滕代远”。
对于彭德怀推荐的人选，毛泽东经与朱德、王稼祥等研究，于1942年7月15日，正式答复彭德怀：“林病仍重，不能工作，叶不能离开军委，总部参谋长以滕为宜”。
显然，对于八路军参谋长这一非常重要职位的人选，毛泽东的决定也是非常慎重的。
林彪自从误受枪伤之后，虽到苏联进行了治疗，但身体状况一直较差。对于八路军参谋长这样的一个费心、费神、费力的工作岗位，以林彪当时的身体状况，是很难吃得消、应付得来的。
叶剑英当时任中央军委参谋长职务，抓军事工作、抓统战工作、抓外事工作，叶剑英在延安成了毛泽东、朱德指挥全国敌后抗战的得力助手。朱德曾这样评价叶剑英：“我们队伍里这样的人才不是多了，而是太少了，要充分发挥他的作用！”显然，此时的“叶参座”也不能离开军委，不可能到前线担任八路军参谋长之职。
这样一来，接替左权的人选主要就落在了时任抗日军政大学校长的滕代远头上。
对于滕代远，彭德怀是再熟悉不过。大革命时期，两人曾一块发动了著名的平江起义，率部加入到红军的革命阵营。红5军成立后，彭德怀与滕代远分任军长和党代表。红5军扩编为红3军团后，两人分任军团长和军团政委。红军时期的滕代远可谓是威名赫赫、声名赫赫。他和彭德怀一道曾创造了无数个辉煌与经典。
对于滕代远这位老搭档、老战友，彭德怀后来曾这样评价道：“代远同志对平江起义帮助不小，是平江起义的领导者之一，特别是军队中建立政治工作、建立党、建立工农兵苏维埃政权，都起了积极作用”。
就这样，滕代远最终接替左权就任八路军参谋长。彭德怀和滕代远“两个共同领导了平江起义、1933年在红3军团依依分手的老战友，在民族艰危的1942年秋，又一起并肩作战了”。