大外交·青年智库
让壹亿中国大外交青年智慧被全球看见
为中国青年智库代言
Glory Diplomacy
Ny.2021/ No.88
人工智能与国家安全：从长远视角分析
作者：阿曼迪普·辛格·吉尔（Amandeep Singh Gill），联合国秘书长裁军事务咨询委员会成员，印度驻日内瓦裁军谈判会议大使和常驻代表。1992年加入印度外交部，还曾在德黑兰、科伦坡和日内瓦的印度使团任职。2013至2016年，担任外交部裁军和国际安全事务司司长。拥有英国伦敦国王学院博士学位。阿曼迪普·吉尔目前是《特定常规武器公约》政府专家组主席，该小组研究致命自主武器系统领域的新兴技术。
摘要：人工智能在军事武器方面的应用势不可挡，它不仅改变了战争形式，也对国家间的地缘政治竞争产生了影响。对国家实力的评估也因新技术的出现而改变。这种影响也延伸到经济领域，因为国家经济力量的增强使高新技术的应用范围得以拓展，对军事安全领域也造成冲击。军事安全领域的巨大变革使得传统武器的地位有所下降。此外，由于人工技术在军事领域的运用，因此需要建立更有效的对话磋商机制以增强国家间的互信。
要词：人工智能；国家安全；军事安全；新型武器
文源：Amandeep Singh Gill “Artificial Intelligence and International Security: The Long View”,Ethics & International Affairs,Vol. 3, No. 2, 2019, pp. 169-179.
收录：《大译编参》2021年第49期，总第49期，大外交智库外文编译评论组创办。
编译：梅思源，大外交智库外文编译评论员助理研究员，现就读于湖北大学公共管理学院；
审校：石博华，大外交智库外文编译评论员助理研究员，现就读于外交学院外交学与外事管理系；李九阳，大外交智库外文编译评论员助理研究员，现就读于大连外国语大学国际关系学院；
再审：闫艺林，大外交智库外文编译评论员助理研究员，现就读于北京外国语大学高级翻译学院；张童沿，大外交智库外文编译评论员助理研究员，现就读于上海理工大学中英国际学院。
编译精选
一、人工智能是战争的改变者吗？
远程和自动化的致命武器都在近些年出现，其中包括“战斧”（Tomahawk）系列巡航导弹、联合防区外空对地导弹（joint air-to-surface standoff missile）和战术防空系统，如方阵近距离武器系统（Phalanx Close-In Weapon System）。近期，无人机也被用于远程反恐巡逻，计算机决策系统和模拟器已经普及。随着机器学习、深度神经网络和强化学习等人工智能技术的引入，人们对计算机的使用已经从基于规则的确定性系统转向多元数据驱动的结果导向型系统。人工智能机器可以比人类程序员从数据中发现更多信息，在操作过程中可以比传统系统处理更多的数据量。一旦我们开始将人工智能引入常规武器系统，一些以前难以解决的问题如在海洋深处寻找核潜艇，会变得更加容易。
二十年后的战争也许不太可能是机器人之间的战争，但可以肯定的是，战斗系统将更加自动化，人类将更多地同机器一起并肩作战。这一趋势和当期人工智能在民用领域的发展方向相一致：尽管“广义人工智能”（broad AI）的研究范围正在扩大，而适用于单个特定任务算法的“狭义人工智能”（narrow AI）的应用领域仍在逐步扩大。随着战争的全球化，交战速度的加快，以及信息对战争重要性的增强，智能化的作用逐步增强。自动化监测和作战系统、通信适应系统、网络攻击缓解与反击系统，以及依赖于多传感器数据融合的决策系统都将体现人工智能的重要性。技术一直以来是为人类战争服务的，最终，人工智能武器的独特之处在于其有摆脱人类控制的可能性。
二、人工智能对地缘政治的广泛影响
虽然人工智能可能会重塑战争进行和胜利的方式，但地缘政治风险于此相比要更广泛。当前，发达经济体一直在尽全力推动GDP增长，新兴经济体试图通过跨越式技术实现经济赶超，因此对经济资源的争夺与军事竞争同等重要。也许没有任何一个领域像网络领域一样，有如此高的商业风险与安全风险。拥有这项技术能力的顶级国家包括加拿大、中国、法国、德国、印度、以色列、日本、俄罗斯、韩国、英国和美国，从中我们能看到上述的风险产生的影响。这11个国家中的8个位于亚太这个充斥着安全困境的地区，并且除了以色列以外，其他国家都是G20的成员。
事实上，最希望从人工智能领域的竞争中获得安全与经济利益的国家是中国和美国。如果数据、创业能力、国家投资和计算能力是未来人工智能发挥作用的最重要领域，很难反驳人工智能领域的领先是否会增加两国间以及世界各国间军事和经济实力的差距。然而这并非是一个定律，未来人工智能的发展可能不会过多地依赖于数据技术以及将网络与现实链接的能力。人工智能的扩张也可能由数字公共产品和人工智能对大规模开发的应用所推动，而印度10亿网络账户、5亿智能手机用户以及在移动支付领域的少量用户的结合为其今后发展增添了优势。只要技术型人才可以在适当的创业环境中抓住机会，有效的监管和社会信任也可以在某些地区创造竞争优势。这就是欧盟发展的结果。
为了比较，可以回顾互联网在经济增长和地缘政治主导地位上的成长轨迹。在20世纪80年代中期，当服务器的域名数量上升时，还没有人预测到电子商务现在的主导地位。同样地，我们也很难预测人工智能技术在未来几十年将在国家实力结构中起到什么样的作用。然而可以肯定地说，拥有先进的数据经济、复杂的风险资本生态系统、大型研发投资和人力资源能力的国家将在通过人工智能提高经济产出方面具有优势。目前在先进的常规武器、信息和通信技术中占主导地位的国家可以更多地使用自主和智能系统以提升实力。那些落后的国家可能会试图通过使用“老式的”大规模杀伤性武器或更新破坏形式来使其在竞争中不至于落后太多。人工智能还可以通过让网络武器实时适应防御者不断变化的战术和工具，以及提升特定的仿生度和目标攻击精准度来增强能力。
国家间竞争在人工智能发展初期不可避免。俄罗斯总统普京在2017年时对学生说过“谁是人工智能行业的领导者，谁就将统治世界”。在2018年3月，法国总统马克龙宣布国家将在人工智能行业进行一项长达五年、价值1.5千万欧元的投资，以赶上中国和美国，并且“夺回欧洲在人工智能领域的主权”。在自由主义的资本家主导的美国，特朗普总统在2019年2月签署了一项题为“维持美国在人工智能领域领导权”的行政令。该行政令认为人工智能“对维护美国的经济和国家安全至关重要”，并呼吁将人工智能迅速转变为“促进我们经济和国家安全的能力”。
三、传统军备控制面临的挑战
从军备控制的视角来看，核心问题是人工智能控制的武器系统是否会降低在处理国际关系中使用武力的门槛、是否会加剧战略不稳定，以及是否会引发新的军备竞赛，并赋予幕后非国家行为体权力。这些问题的答案并不简单，就像冷战期间分析专家对某个特定的战略武器系统是维护了还是破坏了第一次核打击稳定性、危机稳定性和进攻防御平衡的争论那样。例如，无人机可以自主结群以抵御自由航行的战舰，或者通过削弱对手的前线海上防御策略来削弱其攻势；通过快速的计算与传输将作战能力向战场外转移，可以减少远程部队的突然攻击，从另一种角度也使结束战争变得更加困难；对敌军使用自动化武器可以迅速给不受管制的地区带来稳定，也可以用来为对平民和数字基础设施的不对称攻击辩护。
与冷战时期一样，这些问题的答案可能在于负责任的理论、指挥和控制、建立信任和对话、商定的约束措施以及建立共同规范的结合。此外，问题的答案可能需要反复调整，因为我们可以通过非灾难性的失败吸取教训。但是军备控制的技术手段和从业者的心理素质必须不断提升。
裁军和军备控制专家习惯于面对坦克、飞机和导弹，而不是数据和算法，他们习惯于运用军事策略悠闲地谈判，他们所寻求的结果主要涉及硬法的执行和入侵数据。相比之下，自主系统和智能系统并不太适合这种形式的军备控制。技术领域的变化大约每六个月发生一次，因此不能制定出严格的规范框架。相比于验证核武器或化学武器的打击强度，确认训练数据与算法以保证实际进攻和打击强度和期望值和原则相同有更大的难度。除了核和空间能力，知识产权和尖端人力资源更多属于私人领域，并不能出现在裁军、国际安全和武器控制论坛上。
四、在人工智能时代确保安全与稳定的议程
处理人工智能对国际安全的影响的起点是承认人类将长期面对这个问题，且将不会有快速的解决方案。这样的先进技术对于经济、政治和安全领域的革新影响太大以至于无法倒退回之前的状态。大量有实用性的国家安全应用将通过更好地控制伤亡、打击犯罪、打击恐怖主义威胁、节省国防开支、保护士兵和基地，以消减对机器失控或机器错误引起的意外战争的担忧。
这样的发展必须伴随着逐渐增强的跨领域素养。人工智能不能仅仅是程序员和科学家的事情，它的安全影响也不能仅仅是外交官、将军和律师的职责。鉴于人工智能事务对社会产生的广泛影响，人工智能必须是每个人的都需了解的事情。人工智能的治理只能基于对技术的控制和正确理解，而这种治理只有作为包括政府间、国家和行业层面参与者这样层次分析法的一部分，才能在全球发挥作用。
目前，尽管对人工智能的军事投资获得了越来越多的认可，但没有国家承认其军备库中存在致命自主武器系统。因此，如果要建立国家间的互信，就得在现有的网络安全和军备控制对话中增加对这些系统的讨论，或者必须在人工智能的民用领域开展新的对话。但如果采用后一种方式，私营部门可能会被民间社会污蔑为“杀手机器人”。由于有产生类似麻烦的风险，将人工智能的议题添加到网络安全或传统军备控制的讨论中也是无益的。
因此，需要构建创新性的新对话结构，其中需要包含政府与非政府方的谈判，以及非正式的非政府组织谈判。第一个目标应该是通过国家对人工智能开发、测试和验证、部署和使用的方法进行深入讨论来增进相互理解。第二个目标应该是允许分享最佳实践或警示经验。第三个潜在目标是使用参与者自己汇集的数据和算法，或交由值得信任的第三方管理，将思维从“零和竞争”的方法转向协作解决问题。
关于管理人工智能军事使用规范的协议，可能需要一定的时间来商讨这个问题，但这不影响这种运用的发展。建立全球人工智能使用规范的一个重要方法是形成有约束效力的指导法则。在各国之间存在信任赤字、多边谈判最多被视为“立法行为”机会的时候，人们有可能围绕共同的价值观和道德原则团结起来。在新兴技术的背景下，这种方法还允许对处于早期创新周期、缺乏相应约束的国家实行国际监管。欧盟人工智能高级专家组已经确定了促进人工智能的可信和道德发展的五种原则——善意、非恶意、人类的自主权、正义和可解释性。
在军事使用方面，在2018年由125个国家的专家组成的常规武器专家组会议上，人们讨论确定了法律领域新兴技术的十项指导原则。这些原则包括了国际人道主义法的适用性、人类责任、责任、风险的评估和减轻，以及需要对这种系统采取非拟人化看法的有关方面。指导原则同时建立了在技术发展和部署的各个阶段所需人类干预的定义和性质的共识，以保障各国遵守国际法，特别是国际人道主义法。
五、结语
人们对人工智能技术在战争中应用的担忧与日俱增。与对网络武器的管制一样，法律的管制可能会不加选择地转向攻击袭击者。它们可以对国际人道主义法原则的应用提出挑战，如区别、比例和预防措施，所有这些都假设存在一定程度的人类理性和控制。人工智能技术对国际安全的影响仍在发展阶段，但可能和战争中的核革命一样重要，甚至更严重，因而迫切需要管理人工智能使用的创新，并防范对国际和平与安全的带来的风险。
译者评述
先进技术的发展势不可挡地会影响社会发展进程，历史上重大的科技成果都带来了世界范围内的巨大变革，影响国际格局。纵观世界近代史，掌握了革新科技即是掌握了国际话语权。第一次工业革命后，英国成为世界工厂。两次世界大战与前两次工业革命主导国之间的科技话语权争夺密切相关，而第三次工业革命则成为美苏冷战和美日竞争的技术与时代背景。同时，近年来中美在贸易等领域的摩擦也与第四次工业革命主导权竞争有关，美国对中国展开的贸易战实质是一场科技战。美国在技术竞争方面的零和思维暴露无遗，其真正目的为试图披着贸易的外衣打击中国企业在国际上领先技术的发展。整体来看，人工智能是第四次工业革命的引领性技术。当前中国已经在数据、市场和政府等方面形成了一定的优势，但同时在智能硬件、算法框架、原始创新等方面存在较大差距。尽管美国对中国采取了技术封堵的策略，但中国应以更加柔性的竞争性合作的方式加以回应。
人工智能的加速发展会使人类社会在未来面临一系列具有高度挑战性的问题，军事安全威胁是与人类安全最联系最紧密影响。美国在开发人工智能时，最初就是由军方推动的。美国军方希望将人工智能用于战场，并且目前已经有相关的部署，例如大量的无人机被应用。但是这一方面增加了美军与其他国家军事力量之间的差距，另一方面还会产生巨大的伦理问题。机器在军事行动中的决策，可能成为美军推卸责任的借口，例如在出现军事无人机攻击平民事件之后，美国军方将决策的责任归为机器，从而逃避责任。因此需要世界各国联合起来，共同推动人工智能国际规则的创设，以保障人工智能的健康发展。
问题互动
问题1、未来战争的性质会发生什么样的变化？
问题2、人工智能进军影响国家实力的更多领域后，会给国际秩序与国际格局带来怎样的影响？
如果您对大外交智库【大译编参】本期的“编译精选”、“译者评述”、“问题互动”有所思考或高见，请在文末留下墨宝。
【大译编参】系列
编辑 / 王潇洒 审核 / 陈际界
再审 / 王盖盖
大外交青年智库独家出品
个人|群体|企业|高校|智库|媒体|政府|国际组织
合作联系邮箱
kzjwd2020@yeah.net
大外交智库官方网站
http://www.glorydiplomacy.com
大外交智库即大外交青年智库（Youth Think-tank Of The Glory Diplomacy，简称Glory Diplomacy 或GD）是一家创办于2017年的以外交为主的综合性战略研究机构，创始人是王盖盖。2020年，大外交智库又在中国深圳成立专门咨询公司，目前已成研究青年外交与青年发展、国际关系与国际组织、跨国企业与全球治理等事务的综合性全球思想库。
此前，大外交智库聚焦在二十一世纪中国与全球大外交领域的青年原创方案、青年发展计划和青年外交延伸的助力与服务，推动大外交青年智库在对照全球外交发展、对接世界高端智库、对比新型平台建设的三原则下为中国大外交的发展贡献青年力量和方案，也特别提倡、鼓励并支持大外交领域内青年大胆原创小心求证来实现价值增值，以期实现全球青年价值最优，从而聚集了全球各地区有志青年一起在当今时代为实现个人、社会和国家发展目标而奋斗。
因此，大外交智库自创办以来一直致力于让壹亿中国大外交青年的智慧与方案被全球看见，效果非常明显，被海内外青年誉为现代智囊的“青年精英大脑集中营”，是中国大外交新型青年智库的开创者和代言人！
觉得内容还不错的话，给我点个“在看”呗