1939年3月，罗荣桓、陈光率领八路军115师进入山东后，如何融合115师和山东纵队，统一山东的领导机构，使部队更好地作战，就成了中央非常关注的一个问题。
3月24日，八路军司令部和北方局致电中央，指出：“陈、罗已去山东，但陈光在军事上，罗荣桓在政治上，均难形成中心。”因此，他们向中央建议：“山东缺一个骨干，我们拟派徐向前同志去。一年以来，徐在各方面均有进步，但须配以坚强的政治委员，才能坚持大的局面。”
八路军总部和北方局建议，让时任北方局军委书记、组织部长的朱瑞同志到山东，担任政委，协助徐向前的工作。如此，山东的局面即可形成中心，即军事上以徐向前同志为中心，政治上以朱瑞同志为中心。（《罗荣桓年谱》）
今天，我们当然已经非常熟悉罗荣桓元帅了，相比之下却朱瑞的名声反而小一点。但事实上，历史上的朱瑞在很长一段时间里职务都要高于罗帅。
罗帅1927年参加秋收起义，从连党代表开始干起，1929年担任红四军政委；1932年担任红一军团政治部主任，后又调任江西军区政治部主任；1934年出任红8军团政治部主任；1935年出任红一军团政治部副主任。
而朱瑞呢？他1926年进入苏联莫斯科中山大学学习，后进入克拉辛炮兵学院学习。回国后，1932年担任红15军政委，1934年担任红1军团政治部主任；1936年12月，出任红二方面军政治部主任；抗战开始后，担任北方局军委书记。
总的来说，在来到山东前，朱瑞的职务是长期高于罗荣桓的，有苏联背景，更接近于核心领导层（北方局军委书记、组织部长）。这就是当时八路军总部和北方局认为，朱瑞比罗荣桓更容易在政治上“形成中心”的原因。至于徐向前和陈光，两人的能力和威望更是不可同日而语，徐比陈更容易形成军事上的“中心”。
徐向前和朱瑞来到山东后，即被任命为八路军第一纵队司令员和政委，统一指挥张经武、黎玉领导的山东纵队，陈光、罗荣桓领导的115师，和肖华、彭雪枫部。第一纵队司令部也因此成了名义上的，山东地区最高的军事领导机构。
但是，在现实层面，山东地区的统一领导依旧是存在很大难度的。徐向前晚年在回忆录中写道：“山东的部队分散在各地区，建立一个统一的机构是必要的。但有些部队，如陈光部、杨得志部、肖华部等，均独当一面，距离我们较远，又能同党中央和总部直接联系，因而相对保持其独立性，也是不奇怪的。我和朱瑞同志的领导重心，放在山东纵队。”
如何能推动山东的统一领导，是山东分局一直在考虑的问题。7月31日，他们致电中央和北方局，建议成立山东军政委员会，统一领导山东的党、政、军、民工作。委员会由朱瑞、徐向前、郭洪涛、罗荣桓、黎玉、张经武组成，朱瑞为书记。中央批准了这一建议。
但是，问题依旧没有得到彻底的解决。
据时任115师参谋长的陈士榘上将回忆，山东的地方武装（山东纵队）和115师之间有相当的隔阂，这种隔阂自从115师入鲁以后就一直存在。原因不难理解：115师是我军绝对的主力，他们觉得自己理应得到地方武装的协助，应该拉“第一把小提琴”；山东的地方武装则认为，根据地是他们辛辛苦苦打下来了，你作为外来部队，应该去开辟新的根据地，不应该一进来就享受别人的胜利果实。（《一生紧随毛泽东：回忆我的父亲开国上将陈士榘》）
1940年6月，徐向前作为山东纵队代表，回延安参加“七大”。7月27日，朱瑞、黎玉致电中央，提出：当前形势要求领导上更加集中、统一与提高。
8月8日，中央回电：“关于115师与山东纵队的关系，我们认为因徐向前尚在途中，俟其到达延安面谈清楚后，才能决定如何改变，现在115师师部与山东纵队指挥部各保持自己的名称番号，向前的职务亦仍如旧。但彼此间的关系必须更加密切。分局、山纵、115师师部应靠拢住近，统一领导，115师有帮助山纵正规化之责任，陈、罗参加分局为委员，实际上统一军事领导。朱瑞多负分局责任，统一党政军工作的领导。”
中央在这封电报中明白提出，应该由陈光、罗荣桓负责山东地区的军事领导，朱瑞负责分局的工作。
在中央提出这个决定后，两个部队的矛盾并没有消除，反之倒有些表面化了：如果由115师领导整个山东的武装力量，那么，从形式上说，山东分局和山东纵队就有被115师领导的可能。这就造成了山东分局和山东纵队中一些人心理上的不平衡。
双方的矛盾在1940年9月的桃峪会议上公开表现。在这次会议上，罗荣桓做了115师在山东的总结报告，同时也指出了115师存在的缺点。
就在这次会议前一个月，115师刚好发生了一件违反政策纪律的严重事件：
当时一支已经被我军收编的土匪部队突然叛变投敌，将我军的一个班和几个干部扣押在了山寨。115师向叛匪发起攻击，叛匪仰仗地利负隅顽抗，造成我军不小的伤亡，这激起了我军指战员的强烈不满。罗荣桓担心部队攻克山顶后会违反政策，特意委派了政治部的两个科长去前线监督工作，结果一个科长被叛匪打死，另一个科长在拿下山头后，不仅没有执行罗荣桓的嘱咐，反而自己开枪杀了一个叛匪。
此事发生后，罗荣桓立刻将该科长撤职，并派组织部长梁必成去处理。随后，罗荣桓又向上级报告了此事，做了自我批评。
八路军总部在回电中肯定了3年来115师的成绩，同时也对115师在执行纪律和教育干部方面提出了严厉的批评。
据《罗荣桓年谱》记载，10月13日，在桃峪会议上，朱瑞发言，批评115师“除卫生工作外甚进步。如要进步，需前面有人拽，后面有人推……会议上一时形成倒罗的气氛。”
一天后（10月14日），罗荣桓致电八路军总部、北方局并报中央，以自我检讨的态度写道：“115师领导无能已极严重，集总、北局指示全部是事实，已在检讨中；今后为了统一山东军政领导与加强115师，建议以一纵徐（向前）、朱（瑞）兼任115师师长、政委，陈光同志可任副师长，肖华任政治部主任；关于我个人工作，由于政治上学习太落后于人，要有一个严重的转变，是否可能容许我再学习一时期或调其他地区做部分工作，这时我向党第一次提出个人要求。”
同日，朱瑞致电中央、集总和北方军，报告桃峪会议情况，指出115师“在整军、建设根据地工作上处处落后松懈”，建议“115师帮助山纵计划另讨论，山纵原则是自力更生；陈、罗最好给予休养。”
10月18日，毛主席致电陈光、罗荣桓，指出：“总部对你们部队中存在的错误的指出是正确的，你们现已注意纠正，今后应注意检查。另一方面115师有极大成绩，你们的总路线师正确的，你们均应安心工作，目前咩有可能提出学习问题。”明确拒绝了罗荣桓请求学习或者调离的要求。
据梁必业将军回忆，在毛主席发出这封电报后不久，集总来电撤销了之前对115师的批评电报。
罗荣桓清楚地看到了问题所在，看到了统一指挥的重要性，但他当时并没有权利去解决这个问题。时间来到1942年初，罗荣桓两次致电山东分局，并报北方局和中央，建议山东分局召开一次扩大会议，并请中央派少奇同志来参加，总结山东的工作，开展自我批评，明确山东今后的工作方针加强党内团结。
1942年4月，少奇同志一行来到山东，在广泛了解了情况之后，对山东的局势进行了客观的分析和批评。1943年3月12日，罗荣桓担任山东军区司令员兼政治委员，115师政治委员、代师长，山东分局书记，统一领导山东抗日民主根据地的党政军工作。
在他的领导下，到45年抗战胜利前夕，山东军区已经成为一个拥有27万正规军的、党在全国最强大的军事集团，还建立了党在全国最强大的抗日根据地——山东抗日根据地，正规军人数占共产党军队的三分之一。
建国13年后，毛主席还念念不忘，说：“山东只患上一个罗荣桓，全局的棋就下活了。”
1963年罗荣桓元帅病逝后，毛主席悲伤不已，写下了《吊罗荣桓同志》这首著名的诗篇：
记得当年草上飞，红军队里每相违。
长征不是难堪日，战锦方为大问题。
斥鷃每闻欺大鸟，昆鸡长笑老鹰非。
君今不幸离人世，国有疑难可问谁？