打开网易新闻 查看更多图片




【摘要】随着端侧大模型加速涌现,定制化AI芯片成为了当前芯片厂商追逐的新焦点。近日,燧原科技(持股15%)与兆易创新(持股15%合资成立了端侧大模型芯片公司光羽芯辰。

光羽芯辰采用了创新的3D堆叠方案,或能结合燧原的AI技术特长和兆易的DRAM技术特长,解决存储带宽和容量的问题。据董事长周强,光羽芯辰的解决方案在性能上比当前主流产品快10倍以上,且成本更低,具有极强的市场竞争力。

搜索添加芯流微信Aristodemus0403,深入交流更多芯片行业新进展(不建群),市场与项目咨询、人才服务、决策研判。

以下为正文:

为端侧大模型做定制芯片成为今年以来的一门优质创业生意。

近日,燧原科技与兆易创新合资成立了端侧大模型芯片公司光羽芯辰,燧原科技持股15%,兆易创新持股15%。据悉,光羽芯辰目前融资已达数亿元,市场较为看好。

打开网易新闻 查看更多图片

图源:企查查

此前,GPU设计的思路普遍还围绕着通用的场景进行,这意味着可以跑大模型,但没有专门针对其训练的算法框架做优化。

以英伟达为例,芯片本身针对通用场景,所有性能都是拉满的状态,但是实际很多场景上没必要用到过高的性能,完全可以在存储或其他方面相对降性能以达到降本需求。大模型是在去年才开始爆火,基于此,围绕算法框架做定制芯片的生意还处于一片蓝海。

此外,端侧大模型还有几大无法取代的优点:一是数据不上云有助于隐私保护,隐私安全也成为当前用户越来越重视的话题;二是本地运行减少时延;三则更方便根据端侧使用场景和用户特征、习惯进行个性化适配,准确度或许能有更高的提升。最后,端侧大模型成本大概率是一次性付费,从成本角度讲,运营厂商不需要再为其购买云端那么多且持续的数据算力和存储空间。

但在当前阶段,其面临的发展桎梏也不少,即使是轻量级大模型,其参数通常也需要达到十亿级,业界普遍认为参数量达到30亿之后大模型的能力才能上一个台阶。

打开网易新闻 查看更多图片

燧原科技是在这一波AI芯片浪潮中涌现出的明星独角兽企业,其产品线涵盖了AI加速卡、智算集群、配套软件及平台,芯片产品主要集中在云端AI芯片领域。

其过往的投资方包括上海国资委、腾讯、美图、真格基金、红点中国等政府资方或知名市场化投资主体。据知情人士透露,2024年上半年,公司确认收入约几千万元。

兆易创新则主要从事存储器、MCU等产品的研发。本次兆易参与AI芯片新公司的生意,与其拓展CUBE产品(定制化高速存储)的战略规划相关。由于应用于端侧大模型的AI芯片定制化要求高,计算芯片和DRAM必须一起封装,因此存储厂商必须要与AI芯片公司合作来进行高速存储产品的设计。

强强联合,老牌存储厂商兆易提供DRAM技术,燧原科技提供AI芯片设计能力,新公司光羽芯辰显然被寄予厚望。

值得一提的是,光羽芯辰现任董事长兼CEO周强同时也是燧原科技首席芯片战略官。周强毕业于复旦大学微电子学院,曾带领团队设计CPU芯片和系统、AI SOC芯片和系统、汽车AP芯片等,有丰富的成功量产经验。

周强曾公开提到,光羽芯辰专注于研发大模型在端侧落地的芯片,旨在通过技术革新推动智能手机、PC、座舱及机器人等领域的智能化升级。

光羽芯辰采用了创新的3D堆叠方案,结合AI技术和DRAM技术,解决了存储带宽和容量的问题。据介绍,光羽芯辰的解决方案在性能上比当前主流产品快10倍以上,且成本更低,具有极强的市场竞争力。

业内人士猜测,该芯片主要应用于消费电子领域,还是属于低端制程,不会用到14nm以下的芯片。

随着AI大模型趋势的逐渐成熟,在小领域做定制化AI芯片成为一个新的蓝海风口。

搜索添加芯流微信Aristodemus0403,深入交流更多芯片行业新进展(不建群),市场与项目咨询、人才服务、决策研判。

- XINLIU -

喜欢就奖励新流一个“”和“在看”呗~