来自美国密歇根大学的科技初创公司MemryX宣布,推出MX3 AI加速器模块,采用了M.2 2280规格。该模块面向边缘计算应用,旨在为紧凑型计算系统提供高效的AI处理能力,定价为149美元(约合人民币1087.55元)。
MemryX将四个MX3 AI芯片封装到M.2 2280扩展卡上,能够轻松集成到配备PCIe 3.0 M.2插槽的系统中。每个MX3 AI芯片提供了6 TOPS的AI计算性能,那么一个模块就有24 TOPS的AI计算性能,而功耗仅为6W至8W之间。值得注意的是,该模块可以在没有主动散热的情况下运行,依靠附带的被动散热器来进行热管理。
Phoronix测试了MX3 AI加速器模块,评估了其作为AI加速器的性能和可用性,选择安装在运行Ubuntu 24.04 LTS的M.2 PCIe 3.0 M.2插槽的系统中,由于MemryX的开源驱动程序和开发人员工具,该模块很容易集成。此外,还块强大的软件兼容性,可支持TensorFlow和ONNX等框架,以及运行中小型人工智能模型的效率。由于缺乏板载DRAM,某些应用上会有所限制,MemryX计划在2025年推出一款新的PCIe扩展卡来解决这个问题,上面可以搭载更多的MX3 AI芯片。
MemryX表示,MX3 AI加速器模块也会出现在下个月初的CES 2025大展。