平型关战役结束后不久，时任八路军115师师长的林彪在一次遛马的时候，被阎锡山手下的士兵开枪误伤。这次伤势很重，伤到了神经，当时延安的医疗条件还比较落后，因此林彪被送到了苏联医治。这样一来，115师师长的位置就出现了空缺，最终陈光力压一众名将，出任了115师代师长。
当时陈光接任这个职务没有一点问题，因为他的资历和战功在那里摆着。红军时期，陈光就担任过红一军团的代军团长。而115师正是由红一军团为主改编而成的，因此在林彪赴苏联治伤之后，陈光出任115师代师长就是顺理成章的事情了。但令人不解的是，陈光1938年3月就担任了115师的代师长，1943年10月他返回延安学习。
这期间，陈光担任了5年多的代师长，却始终未能转正，这是为何呢？原因还要从八路军山东根据地复杂的人事关系说起。抗日战争全面爆发后不久，日军就入侵了山东，手握重兵的韩复榘不战而退，把山东拱手让给了日本人。山东沦陷后，日寇烧杀抢掠，无恶不作，沦陷区内的老百姓生活在了水深火热之中。
此时时任中共山东省委书记的黎玉挺身而出，领导了包括徂徕山在内的多地抗日武装起义，一时间抗日烽火遍布齐鲁大地。这些抗日武装在1938年6月的时候被统一整编为八路军山东人民抗日游击支队。当时山东境内的日伪军势力十分强大，游击支队没有经过严格的军事训练，兵力和武器装备也远不如对手，因此在和小鬼子交战时很吃力。
1938年4月，黎玉来到延安汇报工作，趁机向毛主席提出希望八路军能抽调一个主力团到山东，协助游击支队作战。毛主席同意了黎玉的请求，并对他说：“一个团有点小家子气了，中央派一支主力部队去，再给你们调派一个有名的红军将领，他们就不敢再叫你‘土八路’了。”
当时毛主席准备派罗炳辉去山东掌舵，罗炳辉的军事指挥才能没得说，但当时新四军离不开他，因此罗炳辉最终未能成行。1938年11月末，毛主席又决定让陈光和罗荣桓率领115师师部和两个主力团前往山东。由于路途遥远，加上沿途还有日伪军的拦截，因此陈光等人直到1939年的3月才进入山东。
此时八路军山东人民抗日游击支队已经奉命扩编为八路军山东纵队，张经武为总指挥，黎玉为政委，总兵力24000多人。115师来到山东后，和山东纵队形成了平行的关系，他们都归八路军总部直接指挥，彼此没有隶属关系，战斗时也基本上是各自为战，很少协同配合。
为了能把两股力量拧成绳，中央决定成立八路军第一纵队，统一指挥山东境内的抗日武装斗争，并派徐向前和朱瑞来到山东，徐向前出任第一纵队司令员，朱瑞为政委。同时还成立了山东军政委员会，朱瑞、徐向前、郭洪涛、陈光、罗荣桓、黎玉为委员，朱瑞为书记，并明确规定，八路军第一纵队归军政委员会直接指挥。
徐向前上任后，凭借着自己深厚的资历和巨大的威望，很快就理顺了山东纵队和115师之间的关系，并率部在战场上打了不少胜仗，陈光、朱瑞和黎玉等人都对他心服口服。然而就在山东根据地蓬勃发展的时候，徐向前却奉命回延安参加七大的筹备工作，并在一次意外中受了伤，短期内无法再返回山东了。
徐向前走后，朱瑞名义上成了山东八路军的掌舵人，他当时身兼三职：山东纵队政委、山东军政委员会书记、中共山东分局书记。但朱瑞缺乏独立指挥大兵团作战的经验，和115师代师长陈光之间的关系也不是很融洽，因此他并不能真正指挥115师作战。而陈光和罗荣桓虽然军事能力十分突出，但他们在山东分局的职务不及朱瑞，因此要想指挥山东境内的全部八路军也有不小的困难。
这样一来，山东境内的八路军又分成了两个部分，力量再次分散，根据地的发展也出现了停滞。而且陈光与朱瑞和黎玉之间的关系也越来越紧张，这期间，罗荣桓多次居中调停，但收效甚微。1940年秋季，朱瑞出席了115师在桃峪召开的高级干部会议，并在会议上对115师的工作提出了严厉的批评，称115师除了卫生工作外，其他方面都没有进步。
朱瑞作为山东八路军名义上的掌舵人，没能在山东纵队和115师之间一碗水端平，而且他对115师的评价也有失偏颇。罗荣桓顾大局，没有和朱瑞争辩，而是做了深刻的自我批评。但陈光性子烈，不仅和朱瑞顶了牛，还拍了桌子。会议结束后，朱瑞直接给延安去电，在电文中再次对115师提出批评，并建议“陈、罗最好给予休养”。
同时黎玉也对陈光的指挥提出了意见，认为他在战术上不够灵活，经常下令死打硬拼，增大了部队的伤亡。一时间，陈光的处境很是被动。不久后山东分局在内部做了分工，陈光不再负责军事指挥，改为负责财委会工作。陈光自从参加革命后，长期担任军事主官，从来没有搞过财经工作。
现在突然让他来负责财经工作，足以说明陈光当时的处境有多么艰难了，朱瑞更是直言，陈光在115师没有威望。部队入鲁几年后，作为115师代师长的陈光不仅未能转正，还失去了军事指挥权。这次调整，依然未能解决山东八路军的统一指挥问题。1941年年底，日军出动5万重兵对沂蒙山区进行大规模的扫荡。
时任山东分局书记的朱瑞在工作上出现了一定的失误，导致这次反扫荡困难重重。黎玉更是直言：分局迟迟不进行二五减租减息，是民兵和基本群众无力进行反扫荡的根源，也是兵源不足的根源。同时延安对朱瑞的工作也不是很满意，并指出了其存在的弱点：“在全盘领导上，对中央指示不重视、不讨论，对政策掌握差；在个人领导上的弱点是不善于团结全体领导干部，不善于推动组织去进行工作。”
事情发展到这个地步，不论陈光还是朱瑞，都不适合出任山东八路军的掌舵人了，此时就剩下了黎玉和罗荣桓两个人选。黎玉虽然在组建山东本土抗日武装方面作出了很大的贡献，但他的资历太浅，没有参加过长征，也缺乏军事指挥经验，更没有指挥大兵团作战的经验，因此他也不适合出任山东八路军的掌舵人。
这样一来，罗荣桓就被推到了前台，他有资历，而且军政双优，还特别能团结人。最终毛主席拍板，由罗荣桓来主政山东，出任山东军区司令员兼115师代师长和政委，同时还兼任山东分局书记和山东军政委员会书记。黎玉为山东军区和115师副政委，陈光和朱瑞双双被调回了延安学习。之后在罗荣桓的领导下，山东根据地得到了长足的发展，成为当时全国最好的抗日根据地之一。