在第二次世界大战期间，日本你的陆军编制与其他国家有着很多不同之处，其参照旧德国的编制构建出了分队、小队、中队、大队、联队、旅团、师团的编制体系，在火力和人数方面则是参照了一战时的美国，总体上日军的编制呈现出了明显的不同。日军的装甲部队隶属于陆军，编制从低到高依次是战车小队、战车中队、战车联队、战车旅团、战车师团和战车集群，日军装甲部队的基干部队是战车联队，相当于别国的团一级战车部队，即所谓的坦克团。
对日军装甲部队了解的军迷知道，战车集群在日文中的翻译是“战车团”，但是这个“战车团”并不等同于上面提及的战车联队的别称。从实际的组织结构和规模来看，战车集群更像是纳粹德国在1944年设立的“战斗群”或“装甲战斗群”这一编制，战车集群的出现是为了在特定情形下更好的指挥战车连队，战车集群并不是一个永久性的编制，而是依据战争情况而设立的临时性编制。这种编制存在的时间长度取决于战争进展的情况，有的长则两三年，有的短则几个月。
战车集群在一般情况下下辖3个战车联队，拥有独立的后勤支援部队和维修支援部队，有的战车集群还配备了步兵、炮兵和工兵，从总体来看，这是一个以装甲部队为主力、诸兵种联合作战的战斗群，但是战车集群也有缺点，那就是战车集群缺乏一定的战术指挥和控制能力。从规模上来看，战车集群和战车旅团类似，但是二者显然不是同一种编制，战车旅团是战车师团的下属部队。从时间上来看，二者并不是同一时间的产物，战车集群在1938年就设立了，而战车旅团则是在1942年才出现。从1938年开始，日本先后设立了第1、第2 、第3 、第11和第14战车集群，但是这些战车集群均在1942年前后被解散或并入其他部队。
1942年，日本陆军高层认为战车集群这种编制已经过时，于是着手建立了更加独立、更为高效、诸兵种联合作战的战车师团编制。起初，每个战车师团下辖2个战车旅团，每个战车旅团下辖2个战车联队，这种由4个战车联队组成的战车师团被美军称之为“方形”战车师团。随着战争的进行，不同时期的战车师团下辖的战车联队组织结构也出现了较大的差异。
1942年中期到1944年初期，日军的战车师团装备编制是这样的： 战车师团指挥部：119人，2辆轻型坦克，10辆中型坦克，20辆小汽车;战车联队：每个战车联队1071人，78辆履带车，21辆轮式车辆;机动步兵联队：3029人，222辆履带车，87辆轮式车辆; 反坦克炮队：444人，45辆履带车，87辆轮式车辆; 搜索队：694人，91辆履带车，12辆轮式车辆;机动炮兵联队：1056人，89辆履带车，73辆轮式车辆; 高射炮队：1014人，105辆履带车，63辆轮式车辆;工兵队：1149人，122辆履带车，50辆轮式车辆;整备队：778人，15辆履带车，152辆轮式车辆; 辎重队：765人，106辆履带车，216辆轮式车辆; 医疗队、通信队：285人，50辆轮式车辆
尽管战车师团是最新设立的编制，但实际情况并不能满足理想中的编制，在战车师团中，轻型坦克基本上是95式轻型坦克，中型坦克是97改式中型坦克，一些本该装备自行火炮的机动炮兵联队也是装备着履带车拖拽的火炮或者是由97改式中型坦克代替，半履带运兵车也少的可怜，大部分是由卡车来完成任务，而且这些卡车基本上都是民用型号，甚至用客用轿车和吉普车来凑数。这些装备无疑经不起激烈战斗的消耗，其作战能力也会不断降低。
在1942年的时候，日军在中国东北建立了第1、第2、第3战车师团，用来应对可能发生的与苏联的战争。1944年时，日军开始裁撤这3个战车师团的编制，分别撤编出1个战车旅团指挥部、1个战车联队、高射炮队和搜索队，此时1个战车师团只剩下3个战车联队，被美军称之为“三角形”战车师团。1944年7月，鉴于日军在太平洋战场的不利局面，为了准备“决战本土”，日军又成立了第4战车师团，至此共4个战车师团全部亮相完毕。
战车联队是日军装甲部队的基本部队编制，实际上其与战车大队的规模是相差无几的。正常情况下，每个战车联队包括800人左右，但有的包括1000多人，装备着30到50辆坦克。战车联队下辖战车中队(相当于坦克连)，战车中队下辖战车小队(相当于战车排)，每个战车联队拥有自己的维修、补给和医疗人员，这是比之前的战车大队先进的地方。战车联队下辖的战车中队也是不相同的，有的下辖2个战车中队，有的下辖5个战车中队，大部分下辖着4个战车中队，包括3个中型战车中队和1个轻型战车中队或者是4个中型战车车队，每个中型战车中队分配1个战车小队。二战前，每个战车小队有4-5辆坦克，二战爆发后，每个战车小队只有3辆坦克。
从开始建立到战争结束，日军装甲部队一共设立了46个战车联队，这些战车联队并不是都属于某战车师团的，而是存在独立战车联队。二战后期，日本设立的战车联队都是加强版的战车联队，每个战车联队达到了1400人，均配属给第4战车师团，但是战争后期的日本已经无力生产更多的武器装备和招募新兵了，均由一些老旧装备和伤残士兵来填充。
每个战车中队下辖1个战车中队指挥部、3个战车小队和1个辎重队，一般情况下，中型战车中队是112人，轻型战车中队是90人。每个战车中队装备着28艇坦克装载的97式7.7mm机枪、84支38式6.5mm步骑枪、4把手枪和107把刺刀，还有15辆卡车、2辆轿车和1辆摩托车。
除了战车师团及其下辖的战车部队外，日军还有隶属于其他部队的战车部队，以及其他的独立战车部队，大致有独立战车旅团、步兵师团战车队、骑兵旅团战车部队、步兵师团搜索联队、独立战车中队、独立超轻型战车中队和日本海军陆战队战车部队等。
日本装甲部队一直在试图学习德国装甲部队的“闪击战”战术，进行战役级的机动作战，实现速胜，这是符合日本这种资源短缺型国家的国情的。不过日本陆军仍旧没有脱离一战那种步兵战的作战思想，在装甲战术上仍旧以支援步兵作战为主，因此生产的坦克速度都非常缓慢，也没有发展和坦克部队配合作战的机动步兵、机动炮兵等专业支援单位，这导致日本装甲部队不能独立的遂行作战，不能实施战役级的机动。虽然日本也组建了装甲师这样的战役级作战单位，但是基本上还是分散为小型战术单位和步兵实施协同作战，在战术水平上远远落后于同期的德国和苏联等传统陆军强国的装甲部队。