1945年9月中共中央提出“向北发展，向南防御”的战略方针，决定从山东调兵数万，迅速开赴东北，新四军江南主力北撤，一部进入山东，刚从延安开完七大准备回华中的陈毅也突然接到中央来电，让他接替山东军区司令员兼政委罗荣桓的工作，因为罗荣桓要带队去东北了。
随着战略的调整，军队部署的改变，我党我军在山东、华中的组织机构也跟着发生变化。
1946年1月，中央军委决定成立山东野战军，并以陈毅的新四军军部兼任山东军区司令部，陈毅担任山东军区和山东野战军司令员，张云逸为军区副司令员、黎玉为军区副政委兼野战军政委。
这是军队方面的机构调整，而在党政机构方面，早在1945年12月中共山东分局改组为中共华东局，由饶漱石任书记，黎玉任副书记。
可以看出无论是党组织还是在军队，有一个人都是二把手，可以说在华东地位非常高，仅次于陈老总，他便是黎玉。
可是解放战争初期地位如此之高、跟元帅、大将搭班子的黎玉，照理说无论是授衔还是从政建国后地位不会太低，名声不会太小，但是建国后3年他就被降职为上海市政府的一个小处长，地位一落千丈，并在以后几十年名声不显，这是为何呢？
黎玉的人生经历相当传奇，他没上过黄埔军校，没参加过武装起义、没参加过红军，没参加过长征，也没在南方打过游击，甚至是在抗战爆发前都没搞过军事工作，可是后来却成为山东八路军的元老级人物，扩军打地盘的本领相当强。
黎玉1906年出生在山西，19岁就开始从事学生运动，1926年20岁就入了党，抗战开始前一直在北方从事地下工作，足迹遍布北平、天津、石家庄、唐山，1936年担任山东省委书记，成为我党在山东的最高领导并且从此扎根在山东。
抗战爆发后，山东很快沦陷，黎玉领导山东省委发动山东各地的抗日武装起义。通过武装起义，在八路军主力进入山东之前，黎玉很快拉起了一支队伍，这便是八路军山东纵队。
1938年12月，八路军山东纵队正式成立，黎玉担任政委，下辖八个支队，相当于八个团，总兵力2.5万余人，虽然战斗力比不上由红军改编而来的八路军主力师，但这已经是两个师的规模了，黎玉就相当于军政委而且还是在1938年抗战刚开始时。
为了经营好山东抗日根据地，中央军委又派了两支大军进入山东，一支是肖华任司令员兼政治委员的八路军东进抗日挺进纵队，由林彪的115师343旅一部和刘伯承的129师一部合编而成，总兵力2万多人，于1938年9月进入山东河北边界地区，1940年后并入山东另外两支部队。
还有一支便是八路军115师师部和所属的685团，由代师长陈光，政委罗荣桓率领，总兵力8000余人，于1939年初进入山东。
毫无疑问，三支部队，黎玉的山东纵队人数是最多的，而且都是本地人，但是黎玉并没有山头主义，没有以山东元老自居，没有排斥远道而来的八路军主力，反而还全力支持主力部队的发展，并且虚心向主力部队学习、交流。
黎玉领导的山东纵队为保证第115师完成繁重的作战任务，一次就拨给他们3万多人枪。第115师2000多名战斗骨干也被调到山东纵队加强山东纵队的战斗力；
两支部队互相交流，并注重在战争中学习战争，达到了迅速提高质量、增进了解，共同战斗的目的。到1940年上半年，山东纵队由2.5万人猛增到5.1万人，第115师也由进入山东的8000多人发展到7万多人。
山东八路军的规模扩展得十分迅速，山东抗日根据地的地位也变得越来越重要，军队规模、地盘扩大了随之而来的肯定是组织机构的调整。
首先是党政机关，1941年9月成立中共山东分局，按照党指挥枪的原则，这相当于是山东级别最高的机构，山东分局主要由四个人组成，哪四个人呢？朱瑞、罗荣桓、黎玉、陈光，黎玉排第三。
除了朱瑞、陈光英年早逝之外，罗荣桓后来成为元帅，黎玉在当时的地位可见一斑，到了1943年朱瑞调离之后黎玉担任山东分局副书记，成为罗荣桓的副手。
1943年3月，新的山东军区成立，由罗荣桓任司令员、代理师长、政治委员，黎玉任副政委，肖华任政治部主任。
因此在山东军中，黎玉也是仅次于罗荣桓的二号人物。
而在抗战末期，山东军区的部队人数占整个八路军、新四军总数的1/4以上。8年中对敌作战3万余次，毙伤俘日伪军60余万人，歼敌人数约占全军歼敌总数的30%，是全国力量最强的一块根据地，黎玉是这个根据地的二号人物，其地位之高可想而知。
到了1943年，黎玉担任山东军区副政委、山东战时行政委员会主任、中共中央山东分局副书记，已经是山东党政军的二把手了。
抗日战争胜利之后，1945年12月山东分局改组为中共华东局，由饶漱石任书记，黎玉任副书记。同时担任山东军区副政委和山东野战军政委，山东省政府主席，还是党政军二把手。
但是这也是他走下坡路的开始，因为他遇到了一个不好惹的人。
原来华东局书记饶漱石到山东不久，即在1946年1月去北平参加军调部工作，后又赴东北，直到1947年1月才返回山东。
在饶漱石离开山东期间，作为中共中央华东局主管土改工作的副书记和山东省政府主席，黎玉按照《五四指示》的精神，领导了山东解放区的土地改革运动，并收到了较好的效果。但黎玉领导的山东土改运动却成了饶漱石批判他的突破口。
1947年1月，饶漱石回到山东，开始主持华东局工作。为了达到在山东称王称霸的目的，饶漱石和康生勾结在一起，将矛头指向了以黎玉为代表的山东地方干部。
饶漱石和康生一到山东，就说黎玉的工作路线是错的，说山东党是“富农党”，山东土改搞的是“富农路线”，并且组织了一系列会议对黎玉以在土改中推行“富农路线”的罪名进行错误的批判。
但是当时正值粉碎国民党军队重点进攻，关系到全国战局胜败的关键时刻，黎玉顾全大局，为了党内团结，违心的接受了批评，蒙受了不白之冤，这也导致他后来的职位发展受阻，政治生涯开始走下坡路。
尽管如此，黎玉仍然积极工作，没有怨言，尽一切所能组织山东民众支援前线，表现了一个老党员、老干部的坚强党性。
历史证明了黎玉为山东解放战争所作出的巨大贡献。据《山东党史资料》1985年第2期《山东人民支援解放战争的调查报告》一文的记载，解放战争期间，山东解放区共发动4次参军运动，参军人数达58.9万多人；
从济南战役战役开始到宁、沪、杭战役结束，山东解放区共出动民工173万多人，牲口5万多头，大车2.5万多辆，小车41万多辆，挑子14万多副，共运送粮食8亿多斤，被服36万多件，其他物资5300多万斤。
尽管黎玉兢兢业业的工作，但是恶梦并没有结束，由于受到1948年山东土地改革时期不公正批判和处理的影响，黎玉在上海“三反”运动中再次受到不公正待遇，1952年2月29日被公开宣布撤销上海市委秘书长等职务，降为上海市委劳动工资处处长。从副部级断崖式降到处级，政治生涯遭遇重大挫折，而且还是被冤枉的。
一直到1986年，在黎玉逝世前两个月，中央才撤销了华东局1948年对黎玉所作的错误结论，给予平反，为黎玉恢复政治名誉。
而一直到2012年，中共上海市委对黎玉在60年前在上海被撤职一案进行了复查，作出《关于撤销在“三反”运动中给予黎玉同志撤销职务处分决定的批复》，撤销1952年2月29日中共上海市委关于给予黎玉同志撤销职务处分的决定，恢复其政治名誉。
黎玉作为曾经山东解放区的高层领导，曾经是罗荣桓和陈毅两位元帅的副手，如果没有1948年这件事，无论是授衔还是从政，地位都应该不会低。