在全球科技产业快速发展的背景下,中国正加快发展新质生产力,人工智能、云计算、消费电子等行业充满商机与活力。这种环境既鼓励了创新,又为跨国企业提供了与中国本土合作伙伴共同开发新技术的机会。
文|闫佳佳
ID | BMR2004
当每个人都希望拥有“个人大模型”时,生成式AI走向终端就成为了一个不可逆转的趋势。生成式AI正引领着新一轮产业变革,也激发了市场对高性能芯片的需求。
在此背景下,高通(Qualcomm)凭借其深厚的技术积累和前瞻性的战略布局,成功抓住了AI终端发展的黄金机遇。2024年9月12日,高通全球高级副总裁钱堃在服贸会主题论坛之一的“全球服务贸易企业家峰会”上透露,高通的AI解决方案正赋能智能手机、PC、汽车等终端设备。目前,高通AI引擎赋能的终端产品出货量已经超过了25亿部。
近年来,高通不断加大在中国市场的投资力度,通过高通创投先后设立了总额达1.5亿美元的中国风险投资资金,支持了多家中国初创企业的发展。此外,高通还在2018年与中国领先的终端厂商宣布“5G领航计划”,助力中国厂商在全球推出5G终端。
为打造智能终端新未来,高通与中国产业伙伴的合作还在持续深入中。
01
从战略投资到生态共建
高通凭借着移动芯片领域的技术优势深入中国市场,目前在中国投资的企业已超过60家。
39年前,美国电子工程师欧文·雅各布斯等7人凭借着在通信和电子工程领域的成就和技术创新能力创立了高通公司。1985年,高通成立后最初的业务是为卡车公司提供卫星通信系统,以实现车辆的远程定位和通信。1989年,高通成功研发出全球第一台采用CDMA技术的无线通信系统原型机。1991年,高通的CDMA技术被首次商用于美国卫星通信公司的无线电话网。后来这一技术获得了全球通信业的认可,为了利用芯片技术使手机具备更强大的计算能力,高通也开始向智能手机芯片方向转型。1999年,高通出售了手机制造部门,将重心转移到芯片设计和无线技术研发上。
21世纪初,高通推出的骁龙(Snapdragon)系列处理器,被广泛应用于智能手机和平板电脑中,迅速占据智能手机芯片的主导地位。高通正是凭借着其在移动芯片领域的技术优势深入中国市场,目前在中国投资的企业已超过60家。
相较于在中国市场深耕上百年的外资企业,高通进入中国市场的时间稍晚,但是凭借着技术创新在中国市场迅速崛起。
高通进入中国市场可以追溯到2000年初,随着中国移动、中国电信、中国联通等运营商的相继成立和重组,中国移动通信产业开始快速发展。彼时,高通也发现了这片充满机遇的市场,自2004年起,高通创投部门就以风险投资的方式资助移动互联与前沿科技领域内的创业公司,并设立了总额达1.5亿美元的中国风险投资资金,面向处于各阶段的中国初创企业。
近些年,高通在中国投资的领域逐渐扩大,涉及人工智能、物联网、机器人、AR/VR、移动互联网、汽车等多个领域。2007年,高通投资了中国半导体产业,长期投资中微公司;2011年和2018年,高通又对小米集团进行了两轮投资,在推动小米产品技术革新的同时,也加强了自身在5G市场的领导地位;2016年,高通与中芯国际在28纳米工艺制程和晶圆制造服务方面开展合作,此后,中芯国际实现了28纳米骁龙处理器的成功量产,并成功应用于主流智能手机;2017年,高通瞄准了中国人工智能领域,投资了商汤科技,为智能设备带来了前所未有的计算能力和应用场景。
中央财经大学数字经济融合创新发展中心主任陈端接受《商学院》杂志访谈时表示,“高通依托现代通信行业的核心产品——芯片,在中国形成了众多生态合作伙伴,成为了中国移动通讯行业转型升级的深度参与者和见证者。高通除了在中国积极投资布局,还重视技术研发,最典型的是与小米的深度合作,双方在手机产品端、芯片研发端、5G等前沿技术领域都有着深度的合作,促进了中国智能手机生态系统的发展。”
高通在中国市场的布局除了进行战略投资外,还与合作伙伴共同创立联合创新中心,携手促进技术创新。
高通官网信息显示,过去几年,高通先后在重庆、青岛、南京、南昌和杭州等地联合当地合作伙伴成立联合创新中心,聚焦基于物联网的创新与发展。比如,2019年9月,中国联通与高通物联网联合创新中心在南京正式揭牌,该中心初期专注于新零售和5G物联网应用。
2022年,ChatGPT这一现象级应用的出世,引发了各界的广泛探讨。高通意识到,AI终端创新的黄金时代已经到来。AI技术需要在人们日常触手可及的终端设备上运行,这意味着AI的计算重心正在从云端向终端迁移。本地运行的AI能够根据用户需求与云端进行交互,人机交互由此变得更自然、更即时、更加个性化,同时隐私性也更有保障。
萨摩耶云科技集团首席经济学家郑磊向《商学院》杂志表示,“在终端侧实现AI功能,必然是推动AI大范围普及的主要途径,这和台式电脑、笔记本电脑、手机等移动终端逐步上网的发展过程有相似性。AI作为一个强大的应用工具,必须能够移植到轻便易携带的终端设备上使用,才能最大限度发挥AI的优势。比如,智能终端设备让AI为智能手机带来新的互动体验方式,将汽车转变为全新的运算空间,并为下一代PC注入强大的AI能力。”
02
赋能终端侧AI
作为全球领先的无线科技创新者,高通正在赋能终端侧AI规模化扩展。
据高通预测,在生成式AI技术向终端设备规模化扩展的过程中,智能手机有望成为发展最快的领域之一。未来,人们对端侧AI能力的需求可能会引发新一轮的换机热潮,并有助于提升设备的平均销售价格(ASP)。AI能力将成为手机厂商推进高端化转型的重要驱动力和有效发力点。
智能手机将成为个人AI助理的载体,帮用户完成信息查找、场景识别、图像处理等多元化任务。然而,这些任务对计算资源和处理能力的要求不尽相同,对底层算力的需求也与日俱增。这就需要从以通用计算为核心的计算架构,向更加高性能的异构AI计算架构升级。
如何打造专为AI定制设计的全新计算架构?《高通AI白皮书》指出,首先需要一个面向生成式AI全新设计的神经网络处理器(NPU),同时要利用异构处理器组合,比如中央处理器(CPU)和图形处理器(GPU)。最后,通过结合NPU使用合适的处理器,异构计算能够实现最佳应用性能、能效和电池续航,赋能全新增强的生成式AI体验。
其实,早在2007年,高通就开始了对NPU的研究,而NPU则是专为实现低功耗加速AI推理而全新打造,此举也说明了高通致力于将高性能低功耗的AI计算能力带入终端设备。
除了对NPU进行迭代升级,CPU的处理能力也至关重要。起初能够完成大部分处理的CPU在计算需求增长的背景下,已经不能满足需求,需要集中于系统级芯片(SoC)中。比如,早期智能手机系统由CPU和环绕CPU分布的分立芯片组成,用于2D图形、音频、图像信号处理、蜂窝调制解调器和GPS等处理。随着时间推移,这些芯片的功能已经集成到SoC的单个芯片体(DIE)中。
此前,在智能手机或笔记本电脑内安装分立的GPU或NPU会占用更多电路板空间,需要使用更多能源,影响工业设计和电池尺寸。此外,输入/输出引脚间的数据传输也将增多,将导致性能降低、能耗增加,而采用更大的电路板则带来的额外成本和更低的共享内存效率。
为此,高通推出了首个专为生成式AI精心打造的第三代骁龙8移动平台,最高可支持100亿参数的生成式AI模型在终端设备上运行,为智能手机提供了前所未有的AI处理能力,为持续AI推理带来98%的性能提升和40%的能效提升。
目前,内存带宽是大语言模型token生成的瓶颈,这意味着其性能表现受限于内存带宽而非处理能力。因此,高通专注于提高内存带宽效率。第三代骁龙8移动平台支持业界最快的内存配置之一:4.8GHzLPDDR5x,支持77GB/s带宽,能够满足生成式AI用户日益增长的内存需求。
今年2月22日,小米推出了搭载第三代骁龙8移动平台的小米14Ultra机型,在高通芯片加持下,将高性能AI注入整个平台系统,可以为用户带来更强的影像力,也可以让用户在日常应用、游戏及多任务处理等各方面体验得以大幅升级。比如,通过Snapdragon Sight骁龙影像技术,在拍摄时可识别的语义层数量提升至12层,大幅增加画面中可增强元素的数量,色彩更加真实。
03
开启AI PC新篇章
边缘计算与AI的结合也带来了许多机遇,就像云计算推动了许多新的商业模式一样,AI与边缘计算的融合也有望催生新的应用场景和服务。
在全球科技产业快速发展的背景下,中国正加快发展新质生产力,人工智能、云计算、消费电子等行业充满商机与活力。这种环境既鼓励了创新,又为跨国企业提供了与中国本土合作伙伴共同开发新技术的机会。
联想智能设备业务集团(IDG)总裁Luca Rossi曾在COMPUTEX 2024主题演讲中表示,“得益于骁龙X Elite平台,最新联想Yoga Slim 7x Copilot+ PC将为企业用户和消费者带来令人惊叹的性能、卓越能效和开创性的AI功能。”
这款笔记本电脑搭载骁龙X Elite平台,具有卓越的PC性能和高达45TOPS的快速NPU AI处理能力。Windows 11和Copilot+增强支持离线使用大语言模型(LLM)功能,增强了创造力、生产力和安全性。
2024年6月3日,高通公司总裁兼CEO安蒙在COMPUTEX 2024主题演讲中表示,“PC正在迎来重塑。搭载骁龙X Elite的Copilot+PC是有史以来最快、最智能的Windows PC,整个系统都集成了AI,并且可以带来长达多天电池续航。”比如,惠普基于骁龙X Elite打造的下一代AI PC支持长达26小时的电池续航。
9月4日,高通又推出全新骁龙X Plus 8核平台,将性能领先力扩展至更多Windows 11 AI+ PC用户。
这一平台采用8核高通Oryon? CPU,支持超快响应速度和效率,同功耗下实现比竞品高61%的CPU性能,而竞品在同性能表现下所需功耗要多179%。而高通传感器中枢具备专用电源传输轨道,可在SoC其余部分关闭时运行,从而大幅节省电量。该平台还通过采用集成GPU,支持多达三台外接显示器,确保卓越图形性能和沉浸式视觉体验。接下来,华硕、戴尔、惠普、联想等品牌将推出搭载骁龙X Plus 8核平台的设备。
未来,随着强大的生成式AI模型不断缩小以及终端侧处理能力的持续提升,在终端和云端协同工作,在适当的场景和时间下分配AI计算的工作负载的混合AI潜力将会进一步增长。
生成式AI基于简单提示就能快速生成优质内容,它也正在凭借这项能力变革生产力。比如,Office工作者可通过后台运行大语言模型,在Outlook中阅读或撰写电子邮件,在Word中编写文档,在PowerPoint中创建演示文稿,在Excel中分析数据,或在Teams会议中协作。生成式AI模型(比如自然语言处理、文本生成文本、图像生成、视频生成和编程)需要经过海量数据处理,才能支持那些被重度使用的生产力任务。而以终端为中心的混合AI架构中,大部分的处理任务能够在PC上进行。
可见,终端侧AI能力是赋能混合AI并让生成式AI实现全球规模化扩展的关键。但是,如何在云端和边缘终端之间分配处理任务将取决于终端能力、隐私和安全需求、性能需求以及商业模式等诸多因素。
陈端表示,“大量的AI工作负载从云端转向边缘终端面临着技术挑战,比如硬件性能、实时性要求,以及把云端系列的AI模型部署到边缘设备需要进行模型优化。此外,为支持边缘计算会增加软硬件成本,边缘设备分布在不同的地理位置,这增加了管理和维护的难度。尽管存在上述挑战,但边缘计算与AI的结合也带来了许多机遇,就像云计算推动了许多新的商业模式一样,AI与边缘计算的融合也有望催生新的应用场景和服务。”
04
AI丰富驾乘体验
高通NPU不断演进,以持续提升AI推理能力和能效。
高通作为中国汽车产业的技术合作伙伴,自2021年起,已经支持超过50家中国汽车品牌推出了160多款车型。例如理想、小鹏、极越等多家厂商,发布了基于骁龙8295座舱平台打造的车端大模型功能。
具体来看,得益于车内和车辆周围环境相关数据所提供的信息,如今AI驱动的座舱能够提供高度个性化的用户体验。类似于智能手机和PC,车载数字助手能够让驾乘人员通过免提的友好用户界面保持无缝互联,同时为生态系统创造全新的创收机会。
比如,数字助手可以访问用户个人数据,包括应用、服务和支付信息,以及来自车辆的传感器数据,如摄像头、雷达、激光雷达和蜂窝车联网等。
AI技术驱动的主动式驾驶辅助系统将大幅改善导航体验。如果汽车系统能够识别每位驾乘人员的个性化需求,并提供定制化的音乐和播客等体验和内容,那么座舱内的媒体娱乐体验也将迎来一场深刻的变革。随着技术的不断进步,汽车维修保养和服务也将变得更加自主化和无缝衔接。通过分析传感器输入、维修保养历史和驾驶行为等数据,智能数字助手能够预测车辆何时需要进行保养。此外,利用生成式AI技术,数字助手可针对汽车如何维修提供信息,或为用户提供咨询,找到合适的服务提供商,提高车辆可靠性,同时减少时间和成本。
感知软件栈是专门用于处理和理解传感器数据的软件系统,在从未遇到过的罕见或陌生物体时,经常会对高级驾驶辅助系统和自动驾驶解决方案产生干扰。这种情况通常由光线不佳或恶劣天气条件所造成,会导致驾驶策略软件栈出现难以预测甚至潜在危险的结果。为了预防类似情况,必须妥善采集和标记这些极端场景的数据并重新训练模型。这一循环过程可能耗时且费力,但引入生成式AI技术能够模拟出多种极端场景,并预测不同道路行为主体,比如车辆、行人、自行车和摩托车骑行者等的轨迹和行为。规划者可以利用这些模拟场景来确定精准合理的车辆驾驶策略。
“高通NPU不断演进,以持续提升AI推理能力和能效,这是一条正确的发展路径。”郑磊表示,“AIGC现在属于相当成熟且应用场景较广的AI应用技术,但是限于大模型对算力、存储、通讯带宽和速度的要求,要在终端侧实现AIGC的主要功能是有技术难度的。”
他进一步指出,“Hexagon NPU的性能和同类竞品各有优势,在不同的数据处理领域各有千秋。整体上看,要将AIGC的存储能力通过芯片技术,从云端转移到边缘终端,还有很长的路要走,这是一个技术瓶颈。而且在解决了这个难题之后,还应考虑将数据学习和训练任务同样放在终端侧解决,那样的话,AIGC就完成了从云端落地和在地的过程,极大扩展了AIGC应用的便利性,并使得这一技术真正实现移动可用。”
来源 | 《商学院》杂志10月刊