深度
当前，人工智能体愈加快速地融入人类日常生活，人们不仅面临人工智能体本身，还需要处理人类自身与人工智能体构成的复杂关系，这些关系反映了未来的人工智能体不是离开人类自成一体，而是走向与人类认知深度交互的混合智能。
原文：《从人工智能体走向混合智能体》
作者 |上海交通大学科学史与科学文化研究院教授 柳海涛
图片 |网络
人工智能越来越广泛地被运用到教育、医疗、交通、军事等诸多领域。按照纽厄尔、西蒙、明斯基等早期经典人工智能学者的看法，人工智能是一套物理符号系统所表现的属性。当把这组计算技术和具体的应用场景相结合时，就形成了人工智能体（intelligent agents）。人工智能体可以被看作把人的欲望、信念、意图等心理状态赋予人工智能，用以解释人工智能实施行为的合理性。人工智能体至少应具备三个基本特征。第一，自主性。它能够在没有人类直接的干预下保持正常运行。第二，交互性。人工智能体和人类以及人工智能体之间能够进行信息交流与协作互动。第三，适应性。人工智能体可以根据环境主动调整行为，做出恰当反应。随着大语言模型和生成式人工智能的出现，人工智能体愈加快速地融入人类日常生活，人们不仅面临人工智能体本身，还需要处理人类自身与人工智能体构成的复杂关系，而这些关系反映了未来的人工智能体将逐步向混合智能体的方向演变。混合智能体主要包括三种形式：人与人工智能构成的混合体；多人工智能体之间组成的混合体；人工智能、设计者和用户三元关系形成的混合体。
人-人工智能构成的混合智能体
人工智能不是由生物体的生命证实的，而是计算系统的属性，其之所以是“智能”，是因为在广泛的环境中，它可以执行一定的行动，基于这样的“智能”定义，我们把此类系统称为人工智能。所以，人工智能通过算法程序完成的目标离不开人的目标，也就是说，人工智能在环境中自动完成的行动依赖于人类预期的目的。人工智能不具备脱离人类之外的独立的价值体系，它的价值和伦理对齐标准是人的价值。人与人工智能构成的混合智能体揭示了人工智能体的自主性其实是技术上实现的特征，它不同于生命有机体的自主性。由于人工智能体自身不能单独成为主体，这就需要考虑人工智能的可信度、可解释性等因素。当我们在用地图导航时，地图自动推荐的最优路线是根据一定参数标准设定的，比如红绿灯最少、高速路段最多、堵车时长最短等，驾驶员在根据导航行驶的过程中，也可以更换其他路线或终止导航，如果未能顺利到达目的地，也就无从追究导航系统的责任。因此，不论人工智能具有何种程度的自动性，它始终要与人的指令、偏好、价值结合起来。人-人工智能构成的混合智能体一方面是数字智能时代人类与技术工具之间新型人机关系的表现，另一方面是人工智能未来可持续发展的内在要求。
多人工智能体组成的混合智能体
人工智能在不同领域的应用往往需要各种特殊的智能体系统互相协作，从而形成多人工智能体组成的混合智能体，以完成超出单智能体能力范围的任务。随着深度学习、自然语言处理技术的运用，多智能体之间的互动模式也在不断改进。比如，一个家庭里的智能家电之间就是由不同智能体构成的混合网络，灯、音响、电视、冰箱、摄像头等相互连接，各个设备发挥的作用交互协调，形成家居网络的整体性功能。这种混合智能体由若干个自治的、异构的智能体组成，每个智能体都有自己的特定任务和行为方式，通过它们的合作，既施展每个智能体的单项智能，又提升了单项智能融合后群体系统的性能与效率。多智能体系统是人工智能快速发展的重要分支，更深入的研究和应用在理论上需要对人类智能机制原理进一步理解，在实践上需要提供更逼真的大模型多智能体框架，用以解决社会生活中的复杂问题。
人工智能-设计者-用户构成的混合智能体
对人工智能系统来说，它的功能与人类想要解决的问题有关。人工智能体看起来是在根据一套规范自主行事，但这些规则和目标是相关的研究设计人员制定的。换句话说，人工智能体的“信念-欲望-意图”是人类把自己的心理状态赋予了系统，为智能体的行为附加上的心理合理性描述，使它们好像和人一样遵循规则指向目标地行动，这也是我们把它们看作智能体的原因。然而，一方面，人工智能体的行为是程序逻辑推理的结果；另一方面，目标和规则并不属于人工智能本身，而是制造它的人为它设定的。就如树木的年轮只是树的生物特点，通过年轮来判断树木的年龄是外部观察者赋予年轮的功能。对人工智能的用户来说，他们是欲望和意图的发起者，人工智能体自身不具备生物性的欲望状态，亦不能离开预先设定的模型架构去实施额外的任务。因此，智能体的行为实质上是人工智能-设计者-用户三方构成的混合系统交互作用的结果。例如，使用大语言模型系统写一个脚本，需要用户给出提示词和场景，程序生成的文本内容超越不了它的模型边界，其输出结果中也混杂着用户的贡献。在自动驾驶汽车刹车失灵导致撞车的事故里，司机的操控行为与自动驾驶系统的配合方式是设计者设置的，事故的原因是多环节的综合，智能体系本身不成为自洽的行为主体。人工智能-设计者-用户的三元混合智能体，不仅说明人工智能不是一个独立领域，而且揭示人工智能体不能脱离人而单独成为道德主体。
人工智能是涵盖计算机、数学、心理学、哲学、神经科学等众多学科的交叉领域，在本质上是人类赋予机器的性能。从应用角度看，它是一种工程技术；从理念上看，它是一种思想，甚至是一种世界观。从人工智能体走向混合智能体是人工智能未来发展的重要趋势，对混合智能体的探索应从两个方面着手。
首先是智能体（agent）的界定和实现框架问题。第一，概念界定。agent这个词具有行动者、能动、行为等多重含义，如何翻译尚未达成共识。在这里，agent是用来指明一个系统具有感知环境并自主决策执行动作的能力。人工智能作为智能体是有条件的，我们认为最小的条件应当是：（1）存在一个与环境C不同的可区分的系统X；（2）X在C中实施特定的行动A；（3）C依据既定的规则和目标实施行动A。在这样的情况下，我们把X当作智能体。第二，在对智能体的界定以及特征描述的基础上，还需要考虑智能体的实现途径。这些问题包括：（1）如何构建一个计算系统来满足智能体的属性或特征；（2）什么样的软件和硬件结构是合适的；（3）人工智能体的语言是一种编程语言，我们该如何对智能体进行编程并使其有效地编译或执行程序。
其次是智能体之间的交互模式问题。混合智能体是多个智能体之间通过一定关系构成的整体智能，最关键的是它们之间的交互机制是什么。认知科学中的分布式认知理论主张，认知是分布在不同对象之上的，甚至包括了社会文化环境。从这个视角看，混合智能体也是一种分布式认知。然而，不同智能体之间是如何形成混合智能的呢？一种方式是借鉴个体与整体的关系来讨论混合智能的组成，另一种方式是从博弈论的视角来分析单个智能体之间的互动以及如何实现均衡。运用生成式自然语言处理技术，构建多智能体的协作框架，可以让不同智能体在共享的环境中进行合作和竞争的训练。比如，大模型CAMEL能让智能体之间进行自然语言的交流和协商，还有其他的多智能体协作系统如OpenAI Five、AlphaStar等。开拓多智能体的协作架构是人工智能亟需开拓的一个重要领域。
总之，当前的人工智能已进入发展的一个转型期，就机器学习和深度学习的状况来看，人们对智能的呈现手段实质上是对多层数据的参数化转换，把通过计算机例示的自动行为称为智能，并赋予其一定的能动性。这是对机器智能借助算法对人类认知进行的经验性模仿，并不是对人类大脑如何产生智能的原理性实现。不过，即使我们不清楚智能与计算的关系究竟是什么，也不意味着人工智能走的道路是远离人类智能的另一条道路，它必然是基于人类认知逻辑的产物。因此，人工智能的未来演进不是离开人类而自成一体，而是走向与人类认知深度交互的混合智能。
[本文系国家社科基金项目“数字化时代背景下身心问题研究”（22BZX022）阶段性成果]
文章为社会科学报“思想工坊”融媒体原创出品，原载于社会科学报第1898期第5版，未经允许禁止转载，文中内容仅代表作者观点，不代表本报立场。
本期责编：王立尧