作者:董兴荣

2025年重要战略技术趋势涵盖了AI发展的紧迫性和风险,以及计算的新范式和人机协同等前沿趋势,其中代理型AI、AI治理平台、多功能机器人等这些重要战略技术将在未来10年内给企业带来重大变革与机遇的趋势,进一步推动企业数字化转型。

随着生成式人工智能(Generative AI)、代理型人工智能(Agentic AI)以及大型语言模型(Large Language Models,简称LLM)等先进AI技术的迭代升级和广泛应用,我们正目睹着技术带来的科技变革和产业变革。 这些技术的演进和应用不仅改变了技术的应用方式,还对社会、经济以及企业的运营和管理带来了深刻的影响。

近期,Gartner发布的2025年企业机构需要探索的十大战略技术趋势显示,代理型AI、AI治理平台、多功能机器人等这些重要战略技术将在未来10年内给CIO和其他IT领导人带来重大变革与机遇的趋势。 根据Gartner研究副总裁高挺介绍,2025年重要战略技术趋势涵盖了AI发展的紧迫性和风险,以及计算的新范式和人机协同等前沿趋势。 追踪和紧跟这些趋势,IT领导者可以以负责任和符合道德的创新方式,引领企业机构迈向智能化的未来。

人物介绍PROFILE

高挺

Gartner研究副总裁

打开网易新闻 查看更多图片

01

AI发展的紧迫性和风险:代理型AI、AI治理平台、虚假信息安全

随着大型语言模型的兴起和发展,AI技术实现了显著的飞跃。传统AI技术主要局限于执行特定任务,如语音识别、计算机视觉和推荐系统等,它们在这些领域表现出专家级的能力。然而,这些技术缺乏人类的泛化能力,难以应对复杂多变的任务。如今,随着大型语言模型的发展,AI开始展现出更广泛的应用潜力。

根据Gartner发布的2025年十大战略技术趋势显示,随着人工智能技术的快速发展,其带来的突破性进展确实不容忽视。 然而,这一进步也伴随着紧迫性和风险,尤其是在“代理型AI、AI治理平台和虚假信息安全”这三项关键技术。

代理型AI(Agentic AI)

代理型AI是通过自主规划和采取行动实现用户定义的目标。代理型AI(Agentic AI)不仅包括AI智能体,还涵盖了“代理型搜索”和“多代理系统”等,更加倾向于技术性。代理型AI为实现能够分担和补充人类工作的虚拟劳动力带来了希望。

“代理型AI”具备两个显著特征: 首先,它是目标驱动的。 这意味着与传统的RPA(机器人流程自动化)不同,代理型AI不需要人类为每一步操作进行详细规划。 相反,它能够根据设定的总体目标,自主地适应外部环境,规划并执行任务。 其次,代理型AI至少包含四个核心模块: 记忆模块、计划模块、感知模块和工具调用模块。 这些模块共同协作,使其能够记忆信息、制定计划、感知环境并调用所需工具。 除了这些特点,代理型AI还有一个关键词——“行动”。 与传统的大型语言模型相比,代理型AI的核心优势在于其能够主动执行任务。 这种行动能力是代理型AI与传统AI技术最根本的区别,也是其最显著的特点(图1)。 通过这种自主行动的能力,代理型AI能够更有效地与环境互动,实现更高级的自动化和智能化。

打开网易新闻 查看更多图片

图1 代理型人工智能的差距

Gartner预测,到2028年,至少15%的日常工作决策将由代理型AI自主做出,而2024年这一比例为0%。 这项技术的目标导向型功能将实现适应性更强、能够完成各种任务的软件系统。 其中“日常工作决策”主要包括三类。

第一类是重复性、数据密集型任务。这些任务通常较为简单,且有大量数据作为决策支持。 由于其可预测性和数据丰富性,代理型AI在处理这类任务时表现出色。

第二类是面向内部效率提升型任务。这类任务主要针对后台工作流程,而非面向客户的前台任务。 由于环境变量较少且相对可控,代理型AI能够较为容易地适应并提高工作效率。

第三类是较短决策链的协同型任务。这些任务涉及人与代理型AI的合作,而非追求完全自动化的复杂目标。 在这类任务中,决策路径较短,人参与度较高,代理型AI在此过程中扮演辅助角色。

目前,代理型AI的发展还在一个比较早期的阶段,其最重要挑战是或者发展的瓶颈主要在错误率,尤其是决策路径长、执行任务多的复杂目标场景。 代理型AI的落地主要取决于模型的推理能力,预计2025年代理型AI仍然处于发展期。

未来,代理型AI有望实现企业首席信息官(CIO)提高生产力的愿望。 这一动机促使企业与厂商探索、开创和建立能够提供稳健、安全和可信的代理型AI所需的技术和实践。 关于“代理型AI”,Gartner认为有一个愿景,“未来每一个人都会有一个AI代理”。

AI治理平台(AI Governance Platforms)

AI治理平台是指可以从法律、伦理和道德方便帮助组织管理和监督AI系统的技术解决方案。 AI治理平台的主要能力包括: 模型生命周期管理、模型透明度和可解释性、模型验证、AI系统监控、AI系统相关的法律、政策合规管理等等。

AI治理平台是Gartner不断发展的AI信任、风险和安全管理(TRiSM)框架的一部分(图2)。 AI TRiSM使企业能够管理其AI系统的法律、道德和运营绩效。 这种技术解决方案能够创建、管理和执行负责任的AI使用策略、解释AI系统的工作原理并提供透明度以建立信任和问责制。

打开网易新闻 查看更多图片

图2 人工智能治理平台要素

在推动AI治理过程中,涉及平衡技术进步与社会伦理道德关系,以确保AI发展既符合技术规律,又符合人类社会的价值观和道德标准,主要体现在以下几个方面。

第一,政府制定明确的政策与法规。政府应制定相关政策法规来引导AI技术健康发展。 这包括建立数据保护法律框架、制定AI伦理准则以及加强算法审计和监管,以确保算法的公正性和透明度。

第二,企业推动伦理审查机制。企业针对涉及伦理道德的AI应用,应建立严格的伦理审查机制,包括设立专门的伦理委员会,对新技术进行评估,以确保其符合社会公共利益和道德原则。

第三,建立跨学科合作机制。面对复杂的伦理挑战,需要政府、企业、学术界及民间组织等多方合作,共同制定伦理标准和法规。 跨学科合作可以促进不同领域专家之间的交流,从而更全面地理解和应对AI带来的伦理问题。

第四,强化公众教育与参与。提高公众对AI技术及其潜在风险的认识至关重要。 通过教育和宣传,让公众了解AI技术背后的伦理问题,并鼓励他们参与到AI治理讨论中来,可以增强社会对技术发展的信任感。

Gartner预测,到2028年,采用综合AI治理平台的企业将比没有这类系统的企业减少40%与AI相关的伦理事件。

虚假信息安全(Disinformation Security)

虚假信息安全是一个新兴技术类别。 该技术能够系统地辨别信任度,旨在提供一个能够确保信息完整性、评估真实性、防止冒名顶替和追踪有害信息传播的方法体系。 其中的技术元素包括: 深度伪造检测、防范冒充和品牌保护。 虚假信息安全的应用场景包括验证实时通信的完整性、确保第三方多媒体的真实性、大型语言模型(LLM)驱动的监控系统(用于跟踪社交媒体和暗网渠道上的内容)、降低生成式AI幻觉和数字测谎仪等。

目前虚假信息检测技术主要依赖于机器学习和深度学习算法。 这些技术能够分析文本、图像、音频和视频内容,识别潜在的虚假信息,已经有一些厂商提供相应的解决方案。 例如: 一些社交媒体平台和新闻网站已经开始实施自动化的虚假信息检测系统,这些系统能够实时监测用户生成的内容,并及时标记或删除虚假信息。 但也存在相关缺点。 一是高计算成本。 许多深度假检测方法,尤其是基于深度学习的模型,需要大量计算资源进行训练和部署。 二是泛化能力不足。 当前的检测方法往往难以适应不同类型的新生成技术,许多模型在面对新型深度假内容时表现不佳。 三是数据依赖性。 有效训练检测算法需要大量标注数据,而这些数据可能并不总是可用或存在偏见。

Gartner预测,到2028年,将有50%的企业开始采用专为应对虚假信息安全用例而设计的产品、服务或功能,而目前这一比例还不到5%。 AI和机器学习工具的广泛可用性和高级状态被用于恶意目的,预计将增加针对企业的虚假信息事件数量。 如果这种趋势不被加以控制,那么虚假信息可能会对企业造成重大且持久的损害。

02

计算新范式:后量子密码学、环境隐形智能、节能计算、混合计算

Gartner发布的2025年十大战略技术趋势显示,涉及计算的新范式主要包括后量子密码学、环境隐形智能、节能计算、混合计算。这些技术趋势体现了计算领域的新发展,它们将推动技术创新并塑造未来的技术格局。

后量子密码学(Postquantum Cryptography)

后量子密码学能够保护数据免受量子计算解密风险。 根据量子计算过去几年的发展情况,目前广泛使用的几种传统加密技术将被淘汰。 由于改变加密方法并非易事,企业必须有更长的准备时间,才能为一切敏感或机密信息提供强有力的保护。

Gartner预测,到2029年,量子计算技术的进步将使大多数传统的非对称加密技术变得不安全。

环境隐形智能(Ambient Invisible Intelligence)

环境隐形智能是由成本极低、体积小巧的智能标签和传感器实现的,这些传感器能够提供大规模、经济实惠的的追踪和传感。长远来看,环境隐形智能将使传感器和智能技术无缝融入我们的日常生活中。

到2027年,环境隐形智能的早期示例将以解决当前问题为主,例如零售库存检查或易腐货物物流等,通过实现低成本的实时物品追踪和感知来提高可见性和效率。

节能计算(Energy-Efficient Computing)

IT以多种方式影响可持续性。在2024年,碳足迹是大多数IT组织的首要考虑因素。计算密集型应用,例如AI训练、模拟、优化和媒体渲染等由于能耗最高而可能成为企业碳足迹“大户”。

预计从2020年代末开始将出现一些新的计算技术,如光学、神经形态和新型加速器等。 这些新技术将被专门用于特殊任务,例如AI和优化,并显著降低能耗。

混合计算(Hybrid Computing)

新的计算范式正在不断涌现,包括中央处理单元、图形处理单元、边缘、特定应用集成电路、神经形态以及经典量子计算、光学计算范式。 混合计算结合不同的计算、存储和网络机制解决计算问题。 这种计算形式能够帮助企业探索和解决问题,使AI等技术能够突破当前的技术限制。 混合计算将被用来创建比传统环境更高效的变革性创新环境。

03

人机协同:空间计算、多功能机器人、神经增强

在Gartner发布的2025年十大战略技术趋势中,人机协同方面的快速发展的技术包括空间计算、多功能机器人和神经增强。这些技术趋势预示着将深刻影响工作方式和商业模式。

空间计算(Spatial Computing)

空间计算利用增强现实和虚拟现实等技术,以数字方式增强物理世界。它将实体和虚拟体验之间的交互提升到一个新的级别。在未来五到七年内,空间计算的使用将通过简化工作流程和增强协作能力来提高企业效率。

Gartner预测,到2033年,空间计算市场将从2023年的1100亿美元增长至1.7万亿美元。

多功能机器人(Polyfunctional Robots)

多功能机器人能够执行多项任务,它们正在取代为重复执行一种任务而专门设计的特定任务机器人。这种新型机器人的功能性能够提高效率和投资回报率(ROI)。多功能机器人可以与人类一起协作,能够快速部署和轻松扩展。

而在最有可能率先实现多功能机器人的规模化应用的行业涉及汽车制造、电子制造、医疗辅助、家政服务等等。 具体应用行业和场景,举例如下。

汽车制造:汽车制造业对自动化的需求非常强烈,尤其是在重复性高、危险性大的任务中。 多功能机器人能够承担装配、检测等工作,提升生产效率并降低人工成本。

电子制造:在电子产品的组装和测试中,多功能机器人可以提高精度和效率,减少人为错误。

医疗辅助:多功能机器人可以在患者护理、手术辅助等方面提供支持,提高医疗服务的质量和效率。 例如,一些机器人已被用于手术室中,帮助医生进行精细操作。

家政服务:多功能机器人在家庭环境中的应用潜力巨大,可以执行清洁、烹饪、照顾老人和儿童等任务。 这不仅提高了家庭生活质量,也为人们节省了时间。

商业服务:在零售和客户服务领域,多功能机器人可以提供信息查询、库存管理等服务,提升顾客体验。

互动学习:多功能机器人在教育领域的应用也在不断扩展。 它们可以作为教学助手,与学生进行互动,提高学习兴趣和效果。 特别是在STEM(科学、技术、工程、数学)教育中,机器人能够提供实践操作的机会。

Gartner预测,到2030年,80%的人类将每天与智能机器人打交道,而目前这一比例还不到10%。

神经增强(Neurological Enhancement)

神经增强利用读取和解码大脑活动的技术提高人类的认知能力。这项技术能够使用单向脑机接口或双向脑机接口(BBMI)读取人的大脑,在人类技能提升、下一代营销和提升表现这三个主要领域具有巨大潜力。神经增强将提高人类的认知能力,帮助品牌了解消费者的想法和感受并增强人类的神经功能,从而获得最佳的结果。

神经增强利用读取和解码大脑活动的技术提高人类的认知能力。这项技术能够使用单向脑机接口或双向脑机接口(BBMI)读取人的大脑,在人类技能提升、下一代营销和提升表现这三个主要领域具有巨大潜力。神经增强将提高人类的认知能力,帮助品牌了解消费者的想法和感受并增强人类的神经功能,从而获得最佳的结果。

神经增强技术主要带来三大潜力和影响。

一是增强人类能力。神经增强技术能够提升人类技能,如记忆力和注意力,解决学习相关的问题。 这有助于人类跟上人工智能的发展步伐,实现自我增强,成为所谓的“增强性人类”。

二是下一代营销体系。传统营销依赖于用户问卷和大数据分析来了解用户偏好。 而基于神经增强技术的营销体系,如果大脑中植入芯片,可以直接从脑电波信号中获取用户的真实喜好,这种数据更加直接且难以作假,对营销来说极为有效。

三是提升性能和绩效。神经增强技术可以增强人类的神经能力,预防工业事故、老龄化问题和防止司机疲劳驾驶等,有助于延长大脑健康时间和整体寿命。

Gartner预测,到2030年,30%的知识工作者将通过BBMI等技术(资金来源包括雇主和个人)提升自己的能力,并凭借这些技术来适应工作场所中AI的崛起。 这一比例在2024年还不到1%。

与前两年十大战略技术趋势相比,高挺表示,2025年的十大战略技术趋势更加强调技术本身的深度发展。 早先几年,从信息技术的角度来看,并没有出现太大的突破。 然而,从去年开始,随着人工智能技术的不断迭代和进步,我们似乎进入了一个技术发展的加速期。 因此,今年的技术趋势报告更加偏向于“硬核”技术,即更加关注技术本身的创新和应用。 而面向未来,2025年十大战略技术趋势最具前景的包括代理型AI、AI治理平台、虚假信息安全和多功能机器人。 其中发展比较快的一个是“代理型AI”,Gartner预测再2~3年内得到广泛应用。 另外,还有多功能机器人,Gartner预测是3~10年。

对中国企业的数字化转型来说: 从新质生产力的角度,代理型AI和多功能机器人最重要。 从信息安全的角度,后量子密码学和虚假信息安全很重要。 从基础设施的角度是混合计算和节能计算。

打开网易新闻 查看更多图片
打开网易新闻 查看更多图片