1937年7月7日，震惊中外的七七事变爆发了。随着全面的中日战争爆发，日本侵略者的野心急剧膨胀。西方国家在远东的利益也受到日本直接的挑战。
二战爆发后，德国法西斯闪击欧洲，荷兰、法国也相继战败。欧洲的形势发生了重大变化，英国也是岌岌可危。远东的日本帝国主义趁着西方各国忙于欧洲战场无法顾及亚洲的情况下，开始迈开了侵占东南亚的步伐。
东南亚地区有着丰富的资源。作为资源极其缺乏的日本，其主要的作战资源大部分都依赖进口。虽然日本帝国主义早就盯上了这块肥肉，但碍于这一地区都是英、美、法等列强的殖民统治区域，始终无从下手。所以欧洲战场的爆发为日本提供了一个千载难逢的机会。
因为占领东南亚地区，不仅可以切断英美等国援华路上的重要交通线，滇越铁路和滇缅公路。又可以向西进入印度洋威胁印度，并与德军在中东会师，向南则可以攻占澳大利亚，称霸西太平洋。
1941年11月，受天皇批准，成立了南方军。资深大将寺内寿一被特命为总司令官，部队直属于陆军大本营。与日本的关东军、中国派遣军并列为日本在海外作战的三大主力。其主要负责的作战区域为东南亚地区和太平洋地区。编有日军大量的精锐师团，主要用来与美军作战。
这些精锐的甲种师团很多都是从其他战区抽调而来的。比如日军的第五师团，就是从中国派遣军抽调到南方军的精锐部队。曾在中日战场上转战各地，拥有丰富的作战经验等等。
战争爆发的前夕，日美两国进行了长达九个月的谈判。为日本发动战争赢得了时间，完成了南方机动作战的兵力部署。其兵力部署为:日军陆军作战兵力约25万，海军作战舰艇232艘，其中包含有10艘航母，作战飞机约1540架。
盟军的作战兵力约35万人，舰艇219艘，其中3艘航母，作战飞机约646架。而盟军在东南亚的防御部队主要为当地的雇佣军。缺乏武器装备和战斗力。
1941年12月7日，日军偷袭了美国的珍珠港，促使了太平洋战争的爆发。美国孤立主义政策外交宣告破产，美国不得不放弃与日本妥协。为了拖住日军南进，一方面指望中国拖住和消耗日军。另一方面，把反攻日本的战场放在西南太平洋。
就在日军偷袭珍珠港的同一天，日本南方军约40余万人在寺内寿一的指挥下，兵分多路闪击东南亚。1942年1月2日占领马尼拉，4月9日美、菲联军数万人投降，仅仅55天日本南方军就完成了对马来亚半岛的占领。
同时日本以航空母舰为核心击沉了英国竞技神号航空母舰、威尔士亲王号战列舰等英国舰艇。渐渐的，东南亚各地区也相继陷落。日本取得的了辉煌的战绩，日军不仅粉碎了东南亚的盟国军队，还控制了大于自己国土约10倍的土地和各种资源。
随着对东南亚的占领，日军慢慢地对盟军的反攻放松了警惕。南方军转为守势。除了用于外线作战的部队和保卫安全的部队，开始抽调兵力到中国的各地战场。并与其他部队进行改编，以保证战略上的机动性。不过在美军迅速的反攻下，这一计划并没有全部完成，只有少量部队被调出。
后期由于日军的战线拉得太长，战略上显得进攻乏力、防守失位。日军完全陷入了困境。1945年初，日军在菲律宾战役中失败，日本南方军与日本本土的战略联系也被切断了。在无法取得与外界联系的情况下，日军南方军的兵员和物资也无法得到有效补充。只能收缩兵力，独自抵抗。
1945年8月15日，日本宣布投降，日本南方军司令部也命令所辖的各部队停止作战，准备向盟军投降。9月12日，板垣征四郎代表南方军尚存的74万部队在新加坡签订降书。根据盟军命令，北纬16度以北的日军38军向中国国民党军队投降，日军第14方面军残部向美军投降，其余的50万日军向英军投降。
日本南方军司令部一直存在到1947年年底，在此期间，曾协助盟军遣返海外日军的投降事宜。南方军的许多高级将领因战争罪行，在国际军事法庭上被处死刑。板垣征四郎，土肥原贤二等日军将领都曾在日军南方军任职。