在二战之前的时间里，日本在坦克工业方面是极度落后的，不论是在坦克的设计思路上，还是在制造的技术方面，都非常的落后。造成这种情况的原因是多方面的，其中上个世纪30年代所兴起的超轻型坦克风气就是主要原因之一。日军九四式坦克正是在这样的背景下出现的。
大约1930年左右，日军提出了一种可用于弹药、物资运输、通讯联络，同时具备一定火力的小型履带式装甲车辆。1934年，日本东京煤气和电器工业公司以英国进口的机枪车为基础，研制出一款轻装甲的样车，随后被正式命名为九四式轻装甲车并投产。
由此可见九四式超轻型坦克并非为坦克战而生，它只是一款运输车、侦察车或者通讯车，也可以拖曳轻型火炮等等，执行一些低烈度的作战任务。加上它是以成熟的底盘改进而来，因此设计目的算是达到了，在它出现的时代看来，它不是最突出的，但是应该算及格的那一类装备。
九四式超轻型坦克的尺寸和它的原型差不多，坦克全长3.08米，宽度和高度都是1.62米，这个尺寸简直和现在的QQ车大小差不多，过小的尺寸带来的就是狭窄的内部空间，坦克成员只有2人，驾驶员和车长，其中车长还负责操作机枪。
该坦克谈不上什么防护能力，装甲最厚处大约1厘米，最薄处仅6毫米。这样的装甲在防御普通的步枪弹时尚且够用，如果是特质的钢芯穿甲弹，或者是12.7毫米口径的马克沁机枪这类武器，那就只有挨打的份了，更不要提专业的反坦克火炮。可惜与之对阵的中国军人连这类武器都奇缺，许多时候只能依靠士兵牺牲生命，用炸药包去炸毁。因为装甲板采用铆接结构，在受到爆炸冲击时防御力很低。
火力上早期型号安装一挺91式6.5毫米机枪，后来改为威力更大的7.7毫米机枪，少部分安装了37毫米炮。这样的火力，作为一款执行低烈度任务的坦克而言还是足够了，现实情况是日军经常将它当作进攻型坦克投入战场，在中国战场上尚且能够耀武扬威，二战与美军等对战就完全处于下风。
动力布置很有特点，23.5千瓦功率的发动机布置在车体的左前方，右前方就是驾驶员，主动轮在前，诱导轮在后，车体重3.45吨，单位功率将近7千瓦每吨，因此动力还算不错，最大行驶速度40千米每小时。
1935年，日军中有11个师团组建了训练所，专门训练装甲兵操作九四式，次年开始组建师团属装甲中队，每个中队装备6~10辆不等的九四式。这些装甲中队主要负责为师团进行装甲侦察任务，是师团前进的急先锋。1937年日军再次组建独立的轻装甲中队，这个独立中队则是为战斗而生，平均每个中队装备大约17辆九四式。
此时这些原本计划用于执行低烈度任务的九四式性质已经变了，开始承担起战斗坦克的任务在一线攻城略地。这些九四式往往配合日军的八九式或者九七式中型坦克。作战中，日军发现这种孱弱的坦克面对更加孱弱的中国军队时有意想不到的作用，加上造价低廉，仅为九四式中型坦克的一半，因此大力生产。
九四式参与了我国华北地区的作战，那张著名的日军坦克进南京城的照片，里面也是九四式。同时它还参与了诺门罕战役以及东南亚地区的战斗。在同有强大装甲力量的军队对抗时，九四式的各种缺点就暴露无遗，美军更是用重机枪对日军坦克进行过大规模反坦克作战，效果堪比机关炮。
二战中，日本也萌生了和苏联一样的飞行坦克设想，在环顾了手中的几款装备之后，看中了超轻的九四式。飞行的九四式被称为“特三号战车”，计划是直接给坦克设计安装一对滑翔机机翼，由飞机拖曳飞行，抵达目的地上空投放后自行降落。因为日本缺乏重型滑翔机的设计经验，加上飞行坦克的思路本身就不可行，因此只停留在图纸阶段。
日本投降后，解放军东北坦克大队在绥芬河一带搜集到了第一辆九四式，后来通过零件组装等，总共有7辆九四式超轻型坦克。济南战役中解放军缴获2辆九四式，后来投入作战，取得了不小的战果。
九四式超轻型坦克的出现，主要还是因为东亚、东南亚地区国家当时都是贫弱之国，连完整的工业体系都没有，又谈什么装甲部队建设呢?因此薄皮大馅的九四式才能够在战场上逞能，受到日军的喜爱，从1934年到1937年，总共生产了823辆，这一数字对于坦克产量严重不足的日本来说也算是高产了。
有意思的是美军士兵对这种坦克很感兴趣，高大的美国人很好奇日本兵是如何挤进狭窄的九四式的，战斗结束后士兵们纷纷跟九四式残骸合影留念，甚至将它摆在M4“谢尔曼”中型坦克的尾部，以显得九四式是多么的迷你。