点击上方蓝字 世界科学,再点右上角三颗痣 设为星标 ,从此你的世界多点科学~

2023年3月的一天,阿拉蒂·普拉巴卡(Arati Prabhakar)携手提电脑走进总统办公室,向拜登描绘科技未来。六个月后,总统发布一项全面行政命令,为人工智能制定了监管方针。

一切皆因ChatGPT震惊全世界。美国方面很快意识到,必须加速推进对AI行业的监管,采取政策以更好利用AI。这项技术的潜力不可限量的,但其潜在破坏力同样惊人,例如导致虚假信息泛滥的风险,甚至有人担心它可能灭绝人类。必须有专业人士向国家领导人解释清楚情况。

这项工作落到了普拉巴卡身上。作为现任白宫科技政策办公室(OSTP)主任,也是总统首席科学顾问,她已在向高级官员们系统性介绍人工智能的变革力量。当然,总统顾问拥有丰富经验和行政头脑,有能力影响到最具权势者的决策。

普拉巴卡生于印度,长在美国得克萨斯,拥有加州理工学院应用物理学博士学位,此前曾管理过两个美国机构:国家标准与技术研究院(NIST)和国防高级研究计划局(DARPA)。她还在硅谷做过15年的风险投资,进入多家公司担任副总裁或首席技术官——还曾为保罗·艾伦(Paul Allen)等人创办的新技术孵化平台英特沃研究所(Interval Research)担任总裁。

2022年10月,普拉巴卡成为第一位担任OSTP主任的女性和少数族裔人士。她走马上任时正赶上以人工智能为重点的议程,推动了关于AI的行政命令的下达。这份长达2万字的命令规定了相关安全标准,力求创新,在政府和教育领域推广人工智能,甚至有试图减少失业的措施。

打开网易新闻 查看更多图片

阿拉蒂·普拉巴卡在白宫西侧艾森豪威尔行政大楼前

美国《连线》(Wired)杂志近期在普拉巴卡居住的硅谷公寓里对她进行了采访。这是一次轻松且量大的访谈。普拉巴卡畅聊了自己的职业生涯,为拜登做的首个ChatGPT演示,她对美国半导体复兴事业的期待,以及总统推出的抗癌登月计划的相关情况……以下是经过编译和删减的访谈内容。

你为什么会进入白宫科技政策办公室,担任总统科学顾问?

因为拜登总统提出了要求。他相信科学技术将使我们成就更伟大的事业,这也正是我的信念。

什么样的伟大事业?

OSTP的使命是推动整个科技生态的发展。我们有一个遵循一系列优先事项的系统。

我们在健康领域的研发上投入大量资金,但公共和企业的资金主要集中于药品和医疗器械,很少关注预防和临床护理——这些方面的工作并不直接应对疾病,却对健康产生重要影响。

我们还必须应对气候危机。针对清洁能源等方面的技术,我们未能很好地将研究成果转化为实际应用。这是未竟的事业。

你从事这份工作似乎可以说是命中注定的。当你在加州理工学院获得物理学博士学位后,你去了华盛顿,开始了与政策的不解之缘。

是的,我走了一条不寻常的道路。

三岁时,我家从印度搬到美国。陪伴我成长的妈妈经常以“当你获得博士学位并成为一名学者时……”的语句开场。加州理工学院可以说是科学的象牙塔,尤其是在我完成学位的1984年。我在那学到了很多东西,也意识到——我的快乐并不是凌晨两点在实验室里的灵光一闪。我来到华盛顿,接受为期一年的国会奖学金。1986年,我经历了重大的职业生涯转折——当时我作为一名年轻的项目经理,加入国防高级研究计划局。DARPA的使命是利用科学技术引领未来。我找到了我的归属。

你是怎么进入DARPA的?

我撰写了一篇关于微电子研发的文章。那时我们刚开始意识到半导体行业并不总由美国主导。我们做了很多未取得成功的工作,但这也为后来的成功奠定了基础。

我在DARPA先是待了7年,中间离开19年,后回归担任主管。我为第一艘自动驾驶船命名——它能在没有一名水手的情况下驶离港口并穿越公海。

DARPA的另一项经典事业是为新的功能奠定基础。我最终成立了一个生物技术办公室,它带来的众多成果之一就是mRNA疫苗的快速开发和分发,如果没有DARPA投资,这一切都做不到。

现在科技巨头都在自己做大量研发工作。

每个发达经济体都存在此类模式:先由政府方面提供新技术研发相关投资,这是培育新产业和促进经济发展的关键一步;随着行业发展,私营企业的投资不断增加,并最终占据大头。曾经有一段时间,公私双方的投资比例是五五开。现在更多的是私人投资。当然,对于DARPA而言,其使命是为国家安全提供突破性的技术和功能。

你担心这种转变吗?

如今,私营科技公司正在打造领先的大型语言模型(LLM),其影响深远。这是美国的巨大优势,也对技术的开发和使用方式产生了影响。我们必须确保实现公共目标。

美国政府的投资是否足以实现此目标?

我不认为可以。我们需要增加资金。AI行政命令包含了国家人工智能研究资源(NARR)试点项目。目前研究人员无法访问企业所有的数据和计算。国会正考虑一项已得到政府大力支持的倡议——将向国家科学基金会(NSF)提供约30亿美元的资助。

这和OpenAI之类的公司所得投资相比其实算小巫见大巫。

构建这些前沿模型需付出大量成本。问题在于,我们如何对先进AI进行治理,以及怎样确保我们可将其用于公共目的?政府必须做更多事情。我们需要国会帮助,但也必须与行业建立一种不同于以往的关系。

来谈谈拜登总统吧,他对AI等事物的理解有多深入?

我在工作中最感有趣的一部分就是与总统一起,帮助他了解技术,例如,我们在总统办公室里,为他演示聊天机器人。

那是怎样的场景?

总统刚刚参加了授予摇滚歌星布鲁斯·斯普林斯汀(Bruce Springsteen)国家艺术勋章的仪式。他开玩笑说斯普林斯汀来自新泽西州,与自己成长的特拉华州隔河相望,然后又提到了这两个州之间的一场诉讼——我们认为用这个法律案例来演示ChatGPT会很有趣,便要求ChatGPT向一年级学生解释案例。AI文本即刻生成:“好吧,孩子,让我告诉你,如果你和某人打架了……”

接着我们要求聊天机器人为最高法院的案件撰写诉讼案情摘要,并得出了非常正式的法律分析。然后,我们又以斯普林斯汀的音乐风格写了一首关于此案的歌曲。我们还进行了图像演示:我们生成了拜登总统的宠物狗“指挥官”坐在总统办公室“坚定之桌”(Resolute desk)后的画面。

那总统有什么反应?

他说道:“哇,我不敢相信它能做到这一点。”这并不是总统第一次认识人工智能,却给了他直接的体验。这看起来是个疯狂而神奇的东西——它那令人惊奇的统计预测来自人类投喂的海量数据。

AI行政命令中有很多规定必须在特定期限内完成。你们进展得怎么样了?

各个任务正在完成中。我们刚刚推出了所有已实现的90日里程碑。我真正感兴趣的命令之一是人工智能委员会(AI Council),其中包括内阁秘书和各个监管机构的负责人。他们聚到一起时,并不像大多数高级会议那样——所有工作都已经完成。在人工智能委员会的会议里,与会者热情参与,热烈讨论,大家都清楚人类必须正确对待AI。

人们担心先进AI技术被集中于少数大公司手中。例如,微软已实质上“收购”了行业领先的AI初创公司Inflection。你担心这种技术集中化趋势吗?

行业竞争是本次讨论的一部分内容。AI行政命令专门谈到这点。这个问题的一个关键点在于,那些能构建大型AI模型的人能在多大程度上独享权力。

不知你是否读过马克·安德森(Marc Andreessen)的《技术乐观主义宣言》?里面有一句话,大概意思是,如果你延阻人工智能的进步,你就相当于杀人犯,因为更先进的AI将拯救生命。关于此,你怎么看?

我没读过,但听说过这个。这是一种过于简单化的世界观。人类发展历史告诉我们,强大的技术就像双刃剑。酷炫新科技的出现并不等同于人类的进步。我们需要在怎样使用技术、何时不使用它、如何确保人类能用上它以及如何应对其缺陷等方面做出最妥当的选择。

你如何鼓励政府使用人工智能?

目前,政府部门正以较温和的方式使用AI。例如,美国退伍军人事务部借助AI技术获取退伍军人反馈,以提升服务水平;社会保障总署也在利用AI加速伤残索赔流程。

我们聊聊《芯片和科学法案》吧。这是拜登政府重振美国半导体行业的核心举措。该法案提供了超过500亿美元用于发展美国芯片行业,但其目的是刺激更多私人投资,对吗?

几十年前,美国占据半导体制造领域的主导地位。几十年后的今天,这个行业已全球化,与此同时在世界地缘政治风险较高的某些地区扎根。一年半前,拜登总统让国会在两党合作的基础上采取行动,政府方面正制定一种完全不同的策略来与美国半导体行业合作。

这个不同是怎么样的不同?

要让美国政府自己建晶圆厂,是行不通的。在政企合作中,企业负责决定哪些产品适合生产以及我们在哪里生产这些产品;以此为基础,政府提供激励措施。这种合作模式将是美国在半导体领域的首次尝试。

(详见:)

有人说,让美国重新占据芯片和电子产品制造领域的重要份额的时代只是一种幻想。显然,你不这样认为。

我们并不是想重现上世纪八十年代的辉煌,所谓“把一切都带到美国”。新战略目标在于确保稳健发展,满足国家安全需求。

英特尔获得了高达80亿美元的最大资助。其首席执行官帕特·基辛格(Pat Gelsinger)表示,现有《芯片法案》不足以让美国重获竞争力,我们需要第二部《芯片法案》。他说得对吗?

我想还没人知道答案。有很多影响因素。当前的工作是建设晶圆厂。

作为DARPA前任主任,你如何看待谷歌等一些公司的员工认为他们不应接受军事合同的态度?

公司员工提出工作相关的尖锐问题是好事。我尊重。我个人的观点是,美国国家安全关乎所有美国人。硅谷的很多人将创办和资助企业看作稀松平常之事,实际上这些工作没那么简单,它由我们在国家安全方面所做的努力而决定。

你的办公室正引领总统提出的抗癌登月计划。好像我亲历的每一位总统都推过一些旨在治愈癌症的项目。我记得尼克松总统曾谈到一场抗击癌症的战争。可以聊聊眼下的抗癌登月计划吗?

我们已取得实质进展。总统和他的夫人设定了两个目标。

一方面,要在25年内将年龄标化癌症死亡率(age-adjusted cancer death rate)降低一半。

另一方面,要改变癌症患者的经历。我们逐渐认识到癌症是种非常复杂的疾病,涉及许多不同方面。作为世界上最富裕的国家,美国国民的健康状况可谓不可接受。我曾和领导抗癌登月计划的丹妮尔·卡尼瓦尔(Danielle Carnival,曾为奥巴马政府的副总统工作)交谈,她谈到了新的癌症疗法,也表示扩大早期筛查是至关重要的工作,因为如果你及早发现问题,就可能改变疾病的整个走向。

我想说:我们真的快要改变现状了。

你不觉得大多数人都对科学怀有敌意吗?

人们越发地怀疑一切事物。我确实认为,某些热点问题(例如气候以及疫苗等传染病相关措施)所特有的转变已经发生。科学家想要解释更多东西,但也应保持谦逊。我认为将科学视作一种宗教未必可取。新冠大流行的第二年,大众一直抱怨指导方针老是变化,而我所想到的是:“指导方针当然要变化,[因为]我们[对病毒]的认知在变化。”当下,科学界需要更谦虚些,而非表达“我们无所不知”。

当很多人不相信经验主义时,负责科技政策工作是不是不好做?

我认为情况没那么极端。的确,人们做出的选择不仅基于确凿事实,也基于自己的生活体验和思想认知。我们必须承认人是复杂的。

资料来源:

《世界科学》杂志版在售中 欢迎订阅

点击图片或以下方订阅方式选购

月刊定价15元/期

全年订阅价180元

订阅方式一:

“杂志铺”订阅有折扣~

订阅方式二:

全国各地邮局订阅。邮发代号:4-263

订阅方式三:

机构订阅,请拨打

021-53300839;

021-53300838