1937年9月，中央军嫡系精锐汤恩伯第13军在皖北地区扩编为第20军团，辖第13军（军长张雪中）、第52军（军长关麟征）、第85军（军长王仲廉）等部，汤恩伯任军团长。1938年3月台儿庄战役中，第20军团作为战略预备队，趁日寇矶谷廉介第10师团巷战4日、筋疲力尽之际，突然投入战斗，配合友军取得了痛歼日寇万余人的辉煌战绩，一时间受到举国赞誉。
拥兵自重滋生“中原王”野心
但在此后两三年里，第20军团作为中央军最后的主力兵团，始终在躲避日寇的围歼，再未取得显赫战绩。抗战进入相持阶段后，汤恩伯调任第一战区副司令长官、鲁苏豫皖边区总司令兼党政分会主任委员等职，掌握几省党政军大权。第20军团也改称第31集团军，仍由汤兼任总司令，长期驻守河南地区。
随着长期身居要职，汤恩伯的本性逐渐暴露，甚至自封“中原王”，不仅引起政敌陈诚等人的不满，就连他的好友戴笠也深感厌恶。1944年，戴笠去河南，汤恩伯竟然当面表达了自己对曹操的崇拜之心，声称要为曹操建一座纪念塔。事后，戴笠对人说：“胡宗南在关中要学左宗棠做西北王。没料到汤恩伯做了中原王还不满足，竟想学起曹操来了。”
上行下效，抗日劲旅已成扰民土匪
如果仅仅是有些盛气凌人也就罢了，汤恩伯还精心培养私家势力，其麾下除了第31集团军以外，又陆续编入4个集团军，军长、师长一级将领大多经其举荐，形成其“中原王”的将领班底。为了笼络这些亲信军官，汤恩伯大兴土木，强征民财，兴建剧院及高级住宅，以便定期聚会、联络感情。
汤恩伯及其亲信的肆意妄为直接影响着麾下几十万官兵。尤其是汤恩伯赖以起家的第13军，每到一处，都要挑选最好的民房，把房主赶走改建成营房；师、团、营、连，每级都占用农田修建练兵用的大型操场，其他部队也纷纷效仿，致使大批百姓流离失所、无家可归。为了强拉壮丁，汤部官兵经常在夜间出动部队，包围某个村庄，强行挑选青壮年男子带走，并趁机劫掠民财。
大灾之年敲骨吸髓，日寇面前一触即溃
1941年河南大旱，数月无雨，蝗虫四起，偌大中原几乎颗粒无收、饿殍遍地。天灾无情，而汤恩伯的人为祸害更大，其部队已经扩充至50余万，所需军粮需要由河南承担部分1斤不减，敲骨吸髓般盘剥百姓。由于无节制的征兵，还大肆收编地方武装，使得军队内部良莠不齐，军纪荡然无存，四处为祸，与土匪无异。河南百姓对汤恩伯所部深恶痛绝，将其列为与“水”、“旱”、“蝗”并列的四害之一。
1944年4月，华北日军为了援助滇缅战场，发动了旨在打通大陆交通线的豫湘桂战役。战役初期以郑州、洛阳为进攻重点，集中近12万人的部队渡过黄河向南进攻。驻守黄河南岸的汤恩伯部虽然拥兵50余万，四倍于敌，却毫无战斗力，一触即溃，拱手将郑州、洛阳两大重镇让出。汤部兵败如山倒，向南溃逃期间依然四处扰民，使得河南各地地方武装纷纷与其为敌，连汤恩伯的司令部也被包围缴械，汤本人最后化妆成伙夫才侥幸逃出。