二战时，世界上包括中国在内的许多国家的编制通常为班、排、连、营、团、旅、师、军。而日军别出心裁搞了一个不一样的编制，它的体系为分队、小队、中队、大队、联队、旅团、师团。可别轻易的把日军的编制和我国的编制混为一谈。
日军的编制在结构和规模上显得与众不同。比如当时国军师一级的标准规模普遍在一万人左右，而日军的师团一级规模参考了一战时美军的编制，规模和火力的配备上都很强大，一个师团的人数都将近三万人了。所以在抗战中日军的一个师团就相当于国军的一个军。
抗战时，由于日军注重占领水陆交通线，在进攻时为了与国军在战线上保持兵力上的平衡。通常在后方留一个旅团休整，然后用师团直属炮兵配合一个联队进攻，另一个联队防守炮兵阵地。
国军以营为最小的防御单位，在面对日军一个加强联队进攻时，基本扛不住。周围的其他部队又不敢把部队分开。日军空中有侦察机，国军又害怕日军另一个联队进攻，不敢进行增援，即便有增援的营，也起不到太大的作用。
所以当日军破口后，把另一个联队插入国军的防御战，切断其后路，被打残的联队死守炮兵阵地，等待日军后方休整的旅团前来合围。消极的防守和日军的作战迅速，国军通常只能放弃防线，日军通过飞机轰炸和地面部队的分割包围，导致国军在撤退的过程中损失惨重。
日军的分队相当于国军的班，为日军编制中最小的战斗单位。通常三个分队加小队部为一个小队，相当于国军的排。日军的中队规模要比国军的连大，通常在180人左右，通过加强后的少数中队有可能配有重机枪甚至迫击炮等。中队之上的大队规模相当于国军一个小团，人数在1100人左右，有三到四个步兵中队，一个机枪中队，一个炮兵小队或中队。
步兵联队下辖三个步兵大队，一个炮兵中队，还有运输队等直属部队。联队为日军单一兵种最大的作战单位。旅团是侵华战争中的编制，根据战争的变化各个阶段都不同，大约在3000到8000人，下辖有两个步兵联队。
旅团过了就是师团，是日军中的战术兵团。1888年，日本原有的六个按地域划分的镇台改称师团。序号从第一师团到第六师团。1891年又成立了近卫师团。
师团下辖两个旅团、四个步兵联队，还有工兵、炮兵、辎重兵、骑兵等联队。日本把这七个最先成立的师团视为第一等部队。在后来的日俄战争中又相继成立了好几个师团。最后保留了十七个作为日军战前的常备师团。
随着日本侵略野心的膨胀和战争的需求，日军的师团也从最初的十七个扩大到两三百个。分为甲、乙、丙、丁四等。
甲类师团是日军永久的常备军，装备精良。人数将近三万人。共有十七个。除了近卫师团，其他十六个都参加过侵华战争。后来大量被调往太平洋战场、东南亚战场与美军作战。
乙类师团是日军的支援作战师团，战斗力仅次于甲类师团。随着太平洋战争的爆发，大量的精锐师团被调往太平洋战场、东南亚战场。这时候乙类师团开始挑大梁。战争结束后，曾有70个乙类师团在中国战场向国军投降，另有20个调往太平洋战场和东南亚战场与美军作战。
丙类师团战斗力比较弱，大多数为新兵，缺乏炮兵和骑兵，只能担任守备任务。抗战进入相持阶段，敌后游击战发展迅速。日本帝国主义的兵力消耗极大，于1942年组建了丙类师团。战争结束后，有超过30个丙类师团向国军投降。师团番号在110师团到300师团以内。
丁类师团的番号在110师团到300师团以外，战斗力弱。主要被用于扫荡和治安战。战争结束时有超过20个丁类师团向我军投降。
其实游击战在抗战期间所起到的作用也是很大的，虽然比起正面战场上的大会战，规模太小。但根据曾在日军华北方面军参谋部任职的加登幸太郎的回忆:“整个方面军一天平均死伤50名。50名虽不多，但一年就有18000人离开战列，是大消耗战”。游击战积少成多，一年下来几乎都快要消灭日军一个师团了。相当于正面战场上大会战的毙敌人数。可见游击战争的威力是相当大的。