第一代冲锋枪的设计主要是由金属和木材精加工而成，不但价格高昂也费时费力。每当军方对这些武器的需求增加时，政府通常都会以价格太高为由而拒绝大批量采购这些武器。因此，武器制造商只能少量出售这些武器，很少有能够获得政府大宗采购合同的。
当第二次世界大战和闪电战时代到来时，德国全金属折叠冲锋枪（MP38和MP40）的出现，引起了全世界的轰动。盟军在见识到这种冲锋枪的威力后，也相继的设计出了自己的更轻，更便宜的冲锋枪。
1941年，英国设计出了司登冲锋枪，这是一种创新的本土化冲锋枪设计。司登全重约6.5磅，易于使用，成本极低，每把几乎不到10美元。虽然司登冲锋枪在战斗中足够有效，但英军和英联邦部队并不喜欢这支廉价的武器。低廉的造价与简单的构造导致其非常不可靠，经常会出现卡壳（弹匣和供弹装置基本照搬德国的MP38），以及保险不可靠造成的走火问题。但是，司登冲锋枪仍然依靠简单的构造和庞大的数量，在战争中发挥了巨大的作用。
因此美国军方希望通过复制司登冲锋枪的成功，来实现本国新武器的低成本效益。美军于1938年开始装备汤普森冲锋枪，至战争爆发时只能装备少量的美国士兵。而且战争刚爆发时，英国人发现自己居然没有冲锋枪这种东西，因此不得不向美国索要了一定数量的汤普森冲锋枪。
汤普森冲锋枪制作精良，但有两个主要缺点：首先，它很重，1928年的型号重量重达10.8磅；其次，是它本质上的战略缺陷-生产成本很高，一支汤普森冲锋枪的价格为209美元，简化的M1版本也要70美元，而进一步简化的M1A1仍然要花费45美元。而且制造汤普森所花费的时间、人工成本和所需的战略材料加在一起，已经成为了美国沉重的经济负担。
因此美国迫切一款能够发射.45ACP或9mm帕拉贝鲁姆弹的全金属武器，其结构必须简单且易于使用，尤其是制造成本要像司登冲锋枪一样低廉。美国陆军军械库的雷尼·斯图德勒上校便受命组建了一支由通用汽车公司的乔治·海德（著名的武器设计工程师）和莱德瑞克·参普生（冲压金属结构领域的专家）组成的设计团队，开始了新武器的设计。
事实证明，这两人是M3冲锋枪设计的最佳组合，他们使用现成的非关键材料开创了美国枪支制造的革命性设计，这种设计使得新武器的零件制造可以分包给全国各地的机械工厂进行快速生产。
这款新武器很快就被指定为美国的标准冲锋枪，命名为M3冲锋枪，随后美军与通用汽车公司签订了生产合同。当1943年年初第一批M3生产出来后，在进行测试时发现该枪很容易出现卡壳故障，通用公司便立刻停止了生产线，开始研究改进方案。
最终1943年秋季，美军正式开始装备M3冲锋枪，至二战结束时通用公司总共生产了60多万支M3。M3是美国第一款使用金属冲压和焊接技术的武器，具有许多巧妙的设计，包括可伸缩的金属丝框枪托。其末端带有螺纹可以安装打孔的刷子作为清洁棒使用。由于外观酷似机修工使用的黄油工具，因此很快就获得了“黄油枪”的绰号。
M3是一种自由枪机原理运作的开膛待击式风冷冲锋枪，只能在向上打开抛壳口防尘盖后以全自动模式射击。不过其较低的射速（每分钟450发）使得枪支具有很强的操控性，大部分数士兵在熟练使用后都可以轻松的进行单发点射。M3的另一个出色设计是使用了双操纵杆和复进弹簧，因此枪械可以使用精密度较低且廉价的零件。沉重的枪栓加上.45ACP子弹的低膛压，致使M3也不需要复杂的闭锁机构或延迟机构。
枪身与握把整体冲压成型，并且握把带有锯齿防滑纹理，是一支真正意义上具有人体工程学的冲锋枪。枪管与带有螺纹的环形底座焊接在一起，环形底座周边带有锯齿纹理以保证拆卸枪管时手不会打滑。而整个M3冲锋枪就只有枪管、枪栓和扳机机构的零件需要机械加工制造，其它均为金属冲压件，而且这货的瞄准器都是直接焊接上去的两块铁片。
抛壳口最初的卡壳问题也已经得到解决，工程师们也顺带设计出了一个简单而又可靠的保险机构。当抛壳口防尘盖向上打开时，武器即处于可发射状态；当关闭防尘盖时，其内部一个凸起的铁片会卡住枪栓，使其无法击发。这种方式几乎可以说是万无一失，因此在我个人看来，该设计算得上是有史以来最好的武器安全措施之一。
但M3缺陷也很明显，最早设计的手摇式拉机柄机构复杂，拉机柄也因为材质问题非常脆弱容易折断，而且想要拆卸枪栓就得先拆下扳机机构和拉机柄机构。为了解决这两个问题大部分士兵会将手摇式拉机柄机构拆除，然后在机匣的顶部右侧开一条槽，并在枪栓尾部焊接一个直柄作为拉机柄，这样只要向后拉动短直柄就可以上膛了，而且拆卸也很方便。
而后期的M3A1也针对这两个问题进行了改进，加大了抛壳口并在枪栓的前端开了一个凹槽，上膛时只需用手指勾住凹槽向后拉动即可上膛。而去掉复杂的拉机柄机构后，拆解过程也就简单很多了，只需要扭开枪管就可以去除枪栓。最后还还修改了线框枪托的形状，使其可以当作扳手来松开枪管组件；加大了防尘盖的长度；发行塑料的供弹井防尘盖，以保证日常的清洁。
M3在战争里被证明是一种强大且可靠的武器，简化的结构带来了高效的生产效率和极低的成本效益，单支“黄油枪”的价格约为20美元。由于较低的生产成本，M3原本被打算当作一次性武器，用坏了就直接丢弃，但事实证明这种想法很不现实。1944年6月诺曼底登陆后，M3冲锋枪的供应非常有限，迫使美国陆军军械厂的车间不得不制造大量的的零配件，来保证现有黄油枪的运行（M3的手摇式拉机柄断裂问题），甚至大部分M3不得不经过改装后继续使用。
1944年还研制了一款发射.30卡宾枪弹药的M3冲锋枪，代号T29，但由于.30弹药的击发膛压对M3的复进弹簧来说有点压力过大，因此只制造了3支。并且当时已经有大量的M1卡兵枪投入使用，所以该项目很快就被废弃了。甚至还尝试过在M3冲锋枪上安装一个弯曲的枪管，供坦克成员潜伏在车内对车辆视野盲区内的敌方反坦克部队进行射击，不过该想法也很快随着战争的进程而被美军遗忘。
M3也出现过发射9MM帕拉贝鲁姆弹，并可以插入英国司登冲锋枪弹匣的型号。该型号的冲锋枪共生产了25,000支，并被指定为美国OSS（CIA的前身）部门的专用武器。这些M3的枪管和枪栓都被重新设计过以适应9MM弹药，并增加了一个内置的消音器供OSS特工在秘密行动中使用。
M3一直在美军服役到朝鲜战争和越南战争，美国也在试图寻找冲锋枪概念的替代品，但很难找到合适的。曾尝试过将M14步枪改为带有折叠枪托和手枪式握把的型号，M16步枪也被改装成类似SMG的CAR-15 XM177，但这些尝试都无法替代冲锋枪的作用，特别是对装甲部队而言。至1990年代中期，仍然可以看到美军的装甲部队在使用M3A1冲锋枪。
M3冲锋枪曾被多个国家装备使用，我国在1947年也引进过一批M3A1冲锋枪进行仿制，命名为36式冲锋枪。随后又仿制了发射9毫米帕拉贝鲁姆弹的37式冲锋枪，以及带有90度拐弯枪管的39式冲锋枪，可以朝上下左右四个方向进行射击。
最初许多部队对M3冲锋枪没有任何信心，因为美国政府以前从未产生过如此廉价的武器，连一支全自动手枪的造价都比M3冲锋枪高。但是随后的战争里，M3冲锋枪也渐渐地证明了自身的价值且被越来越多的部队所接受，其稳定可靠且能够以极低的成本进行大批量生产的特性，为美军提供了难以置信的丰厚投资回报，也成为了美军在二战里最具代表性的武器之一。
相关阅读：