未经许可不得转载，务必保留原文出处链接和公众号按钮
（关注本城公众号并加星标，第一时间获取
最新全球顶尖科技认知）
文：Web3天空之城·城主
这是李飞飞和著名硅谷投资人马克·安德森近日在飞飞担任所长的斯坦福HAI研究所5周年会议上的现场炉边对话。
这两位圈里赫赫有名的大咖同台对话，本城整理了书面文字和中英精校视频和读者分享。（城主想指出一个有趣的点是，马克·安德森明显有着AI的大国竞争思维，但同时作为AI投资人他又看起来有些矛盾的支持着开源开放... 作为其个人观点，读者可以自行甄别，不再赘述。）
B站传送：【精校】李飞飞炉边对话马克·安德森 | HAI 5周年会议现场 2024.6 【中英】-哔哩哔哩】 https://b23.tv/tCHXyAR
主持人：
我们的下一场会议将深入探讨通用人工智能的雄心勃勃的目标。风险投资家Marc Andreessen与李飞飞将一起探讨如何构建一个蓬勃发展的创新生态系统，以安全地实现这一目标。
Marc Andreessen是著名风险投资公司Andreessen Horowitz的联合创始人兼普通合伙人。Andreessen因共同编写了第一个广泛使用的网络浏览器Mosaic而闻名，他对技术领域产生了重大影响。他的投资和对技术趋势的洞察塑造了众多初创公司的成长，使他成为科技行业的关键人物。所以，请欢迎Marc和李飞飞上台。
飞飞：
我很高兴能主持与Marc的炉边谈话，他是我多年的朋友和同事。我不知道你听说过多少关于Marc的简历。Marc不需要介绍。但真正让我印象深刻的是，你正处于互联网的黎明时期。您是推动互联网发展的人们之一。现在我们正处于人工智能的黎明时期。当然，作为硅谷一位颇具影响力的风险投资家，您的公司正在做的事情就是实现人工智能。
关于Marc的另一件事是，我想是去年，您撰写了一份非常有影响力的技术乐观主义宣言，这份宣言因坚信自由市场推动的技术进步对人类进步至关重要而广受赞誉。
马克：
您说的“名声”，您的意思是尊重和认可。
飞飞：
我的意思是“名声”。是的。所以，我们会谈到这个。但我确实想先问您这个问题，您一直非常直言不讳地提倡振兴这个生态系统，提倡消除障碍和阻碍，包括限制政府的作用，特别是在监管方面。您相信人工智能、实现人工智能、培育人工智能将比过度监管更广泛地造福社会。
所以，我们在这里庆祝HAI五周年。我们正处于最新一代人工智能革命的中心。进一步阐述。与我们分享您的想法。
马克：
当然。是的。首先，能来到这里真是太好了。看到这个机构过去五年来所做的所有工作，我感到非常高兴。有几件事。首先，我认为这种对话持续了很长时间，这真的很好。我想说，我在硅谷的前20年，我们基本上只是在开发工具。然后，实际上只是在过去十年中，我才从政治、道德和这些更大的社会问题的角度来描述硅谷。这有点像追上公交车的狗，我们开发了所有这些工具。事实证明，它们确实很重要。它们对社会和政治体系都很重要。所以，我认为这很棒。我认为这些都是非常非常重要的问题。我认为这些对话正在进行中，这很棒。
因此，对于这个问题，我将从一个故事开始，这个故事可以告诉我我是如何看待这个问题的。今天发生的对话的基本、简化版本，它围绕社交媒体和互联网已经发生很长时间了，现在它围绕着人工智能发生。这个故事有点像这样：有一个新事物，它会有害吗？如果它有害，就需要控制、监管或阻止它。这种对话的隐含基础是技术伦理中所谓的预防原则。
预防原则是一个基本的、似乎非常合理的主张，即技术的发明者应该能够预测它是否会产生负面影响。如果会产生负面影响，他们有责任阻止它，因为他们不追求和部署这种技术。
预防原则有一个非常有趣的起源。它来自20世纪70年代德国绿党对民用核电工业崛起的回应。核技术显然在20世纪40年代和50年代作为一种军事技术出现。然后到了50年代和60年代，民用核能出现了大发展，人们开始期待从原子能中获得无限的能量。
到了70年代，德国绿党站出来决定停止核能，并制定了预防原则，提出只要民用核能开发商不能证明核能在任何情况下都是完全无害的，就应该停止部署。基本上这个方法奏效了，核能停止了。
在美国，这个想法被采纳了。1971年，我出生那年，时任总统尼克松提出了一个他称之为“独立计划”的计划，即到1980年在美国国内建造一千座核电站。这会导致整个美国经济陷入衰退。电网改用核电，这将使我们完全脱离中东。这将使我们现在知道，美国基本上可以实现完全清洁、零排放、零碳排放的能源。这将推动向电动汽车的转变。
所以尼克松提出了这个建议。然后，当然，他成立了核管理委员会，阻止了这种情况的发生。而今天，我们在美国，正在开发的新核电站为零。如果你看看过去40年民用核电的部署图表，它基本上完全停止了。这导致了我们当前政治的许多方面。对于任何关心碳排放气候的人来说，这无疑是一个巨大的错失良机。
我想说，环保运动现在开始意识到发生的悲剧，我们有零排放能源的灵丹妙药，但我们决定不使用它。顺便说一句，这也导致了当前的事件，它基本上助长了俄罗斯和乌克兰目前的情况。由于决定不部署核电，德国变得非常依赖天然气。因此，它变得非常依赖俄罗斯。欧盟其他国家也是如此。因此，欧盟基本上在过去20年里一直在为普京政权提供资金，而且至今仍在通过从俄罗斯购买能源为战争提供资金。
回顾过去，我们基本上感到震惊，我们只是觉得，哦，天哪，他们怎么会犯下如此可怕的错误。顺便说一句，在过去70年对民用核能的全面核算中，现在非常清楚，它是最安全的能源形式，与任何其他能源相比，它造成的人员死亡人数基本上极少。所以，我们怎么可能做到这一点？
所以对我来说，好吧，我们也许不要再这样做了。
飞飞：
所以你在人工智能中看到了这种危险？
马克：
哦，100%。是的。所以这基本上是相同的动态。这基本上是相同的讨论。
飞飞：说详细一点。
马克：
是的，所以是同一件事。
因此，讨论中的假设是，如果存在潜在危害，那么就应该有监管、控制、限制、暂停、停止、冻结，还有各种不同的提议。但这是一种压倒性的负面框架，这种风险规避框架，与预防原则非常一致，但它是讨论的框架。
飞飞：
情况不是更复杂一点吗？如果你看看拜登总统去年的行政令，有预防措施，但也有激励和竞争角度，因为地缘政治现在非常复杂。那么，你是否因为认为监管已经太多而过度关注技术的积极推动？或者你只是想呼吁采取行动，推动更振奋人心的工业努力？
马克：
是的，所以首先，让我们谈谈地缘政治，因为这非常重要。这是我观察到的另一件事，至少在我特别在华盛顿特区的讨论中是如此，我最近在华盛顿特区花了很多时间。我的公司很长时间没有参与政治。我们非常努力地不参与政治，但有一句古老的苏联笑话说，你可能对政治不感兴趣，但政治对你感兴趣。因此，在过去的一年半、两年里，我们非常参与华盛顿特区，人工智能是我们推动的重要部分。
我很高兴你提到了另一件非常引人注目的事情，那就是关于华盛顿特区的讨论，基本上就是华盛顿特区的讨论出现了精神分裂。我的描述方式是，如果我周二去华盛顿特区，讨论的都是国内政策，国内监管，美国公司、大型科技公司、小型科技公司、大学正在开展的工作，以及这些工作是否应该受到控制、限制或停止，这是我们开始的对话。如果我回到周四，讨论中国和地缘政治，那将是完全不同的话题。
那里的讨论是，天哪，我们必须赢。那里的讨论是，中国在过去十年中一直宣称人工智能是中国的国家战略重点。这是他们民用、人口和社会信用等所有方面的国家优先事项。这是他们数字“一带一路”的关键组成部分，旨在向全球广泛传播中国的治理和技术模式，与美国的精神形成竞争。然后这也是为了军事的未来。顺便说一句，在美国，国防部也有一个概念，他们称之为抵消，人工智能和自主性几年前被宣布为所谓的第三次抵消，这基本上是国防的关键技术。这对于国防系统的建设、国防部的运作方式以及未来战争的打法都有很多影响。
因此，现在就像是一场国家军备竞赛，就像是一场国家地缘政治竞争，对美国和中国国内、全球和军事上发生的事情有着重大影响。讨论的重点是我们必须获胜。当然，这些对话是直接冲突的，也就是说，我们是否基本上限制了国内对话？我们是否限制了自己，以至于放慢了一切速度并限制了它？然后在地缘政治问题上，哦不，我们必须全速前进。我们必须获胜。
听到华盛顿的人不认为自己有责任调和这两个话题，你可能不会感到惊讶。
飞飞：我认为这就是他们周六所做的。
马克：
我想，到目前为止，他们还没有调和这两个话题。坦率地说，我认为这意味着他们实际上把这个问题留给我们自己去解决。
飞飞：
好吧，让我们深入讨论一下其中一个，因为这两个主题都集中在一个辩论上，那就是对开源的严格辩论。现在，它正在全国范围内发生。就在我们家乡加利福尼亚州，我们看到州参议院正在审议关于监管和控制潜在开源的令人不安的法案。你对此有何看法？
马克：
是的，所以，开源讨论非常有趣，因为它被描述为，有一维版本，或者一步版本，还有两步版本。一步版本与预防原则非常一致。我认为当前的加州法案反映了这一点。欧盟的《人工智能法案》也反映了这一点。我认为加州的法案在某种程度上是基于欧盟的《人工智能法案》，该法案是在立法中实施的预防原则，也就是说，好吧，这被认为是潜在的有害的，因此必须加以控制以防止危害。
无论如何，再说一遍，这就是预防原则的全部内容，这听起来总是很合理，因为你怎么可能反对它呢？但是，重要的是要考虑第二步，特别是关于开源，第二步会让人眼花缭乱，一眨眼就明白了，这好吧，什么是开源？它是软件代码，软件代码是一个有趣的东西，它有点像介于语音和技术之间的东西，我总是把编写软件描述为有点像写小说，又有点像设计化学公式，两者有点像。所以，它是一种表达形式，它有很多艺术美学方面，但它不仅仅是言论，它不仅仅是站起来说一些有功能含义的话。所以它介于言论和技术之间，关于它在多大程度上符合言论自由保护的争论由来已久，但它在某种程度上是两者的结合。
然后，开源，对于最初的术语，在那之前的自由软件，我可以下载它，我可以查看它。它是一个白盒子，而不是黑盒子。我可以看到它里面的东西。我可以修改它。我可以，我可以，我可以从中学习。所以我认为第二步你要问自己，好吧，你需要设计什么样的社会才能拥有执行机制来执行任何形式的开源禁令或限制，现在你开始进入奥威尔领域了，好吧。这有点像是，一种探索，看看人们对此有什么想法。建议的范围有点像，它有点开始于，我们只需要在每个芯片上放一个软件代理，检查人们是否在使用经过批准的开源，就在那里，我想，好吧，等等，坚持一下。就像1984并不是一本说明书。就像我们不应该在我们所有的电脑上运行软件代理，这只是第一步。然后基本上从那里开始的政策处方变得越来越可怕。
而且，我认为他们最终在《时代》杂志上非常诚实地表达了这将带你走向何方。大约一年前，埃利泽·尤德科夫斯基在《时代》杂志上发表了一篇文章，我再次赞扬他坚持自己的信念，说出自己的想法，也就是说，要实施对强人工智能和开源的禁令，你不仅需要进行让奥威尔脸红的广泛监控。你还需要在全球范围内执行它。因为仅仅在美国禁止它是不够的，你必须考虑到其他180个国家。所以你需要实施全球禁令。当然，你需要执行全球禁令。因此，你需要做好准备，将美国派遣出去。空军将轰炸非法数据中心。他甚至说你需要愿意冒核战争的风险，所以你需要想象一下美国的隐形轰炸机单方面轰炸数据中心。这就是这种情况。所以你必须问自己，好吧，你到底想生活在什么样的社会里，能够执行这样的事情？
顺便说一句，把我放在另一边。对，这就是执行。
飞飞：
你能谈谈我们为什么需要开源吗？为什么你要和硅谷这么多的创业公司合作？为什么开源如此重要？
马克：
是的，所以这是另一种方式，比如，开源扮演什么角色？这与人类自由等问题无关，我认为这很重要，也与没有第三次世界大战有关，我认为这也很重要。是的，另一个问题是开源在创新生态系统中扮演什么角色？
我只想告诉你，我对此的看法基本上是现代技术、现代计算机科学、现代软件的三角关系，基本上是开源、创业公司，也就是我的日常工作，然后是学术界。我坦率地说，如果开源以某种方式被禁止或限制到一定程度，那将是至关重要的。首先，我认为，创业公司就会倒闭。因为我们资助的每家初创公司基本上都是建立在开源之上的，每个人都认为你可以建立一个开源软件是理所当然的。每个新的软件项目基本上都是建立在开源之上的。所以某些初创公司就倒闭了。
这个方向的另一个后果，有点像第二步、第三步，就是初创公司倒闭，因此，基本上，所有的开发都委托给了一个基本上永远掌权的大公司联盟。再说一次，你要问问自己，这是否真的是你想要的结果。然后第三点是，你们告诉我，我认为，基本上，学术界会消亡。当然，学术计算机科学会消亡，这个机构会消亡。
飞飞：
如果没有开源，我不知道这里的工作会发生什么，因为我们也是一些最大的开源软件提供商。（城主：应该是指ImageNet）
让我们来谈谈学术界，因为你们的技术乐观主义者的名声和尊重的一部分。因此，多年来作为朋友，我非常欣赏马克的一件事是，我们是知识分子的朋友，彼此深深尊重，但不一定同意对方的观点。我认为，这实际上……谢谢。实际上，我认为这在校园学术界的这个历史时期非常非常重要。海引以为豪的一件事就是为这种严谨的辩论提供了平台。事实上，在我们之后，休息后，您将听到有关监管等的小组讨论。但在您的宣言中，您实际上使用了敌人这个词。与这个词相关的是，您谈到了技术伦理、信任和安全等想法，在某种程度上，它也与象牙塔有关。您刚才提到您关心学术界和生态系统，我知道您确实关心。那么，您如何调和您在文章中写的内容？您的真正意思是什么？您如何看待学术界的这一历史性时刻？
马克：
是的，我先从我使用“敌人”这个词开始说起。我在文章中非常明确地提到，我谈论的是思想，而不是人。因此，我认为参与这些事情的任何人都不会将他们视为敌人。但我确实认为有些想法很糟糕。我认为我们生活在一个有些糟糕想法已经变得非常普遍的时代，这些想法需要受到挑战，我已经阐述过了。
飞飞：
那么，为什么人工智能中的信任和安全是坏的？
马克：
因为它被劫持了。它是一种预防原则，是在公司特定的背景下实施的。对于那些不知道的人来说，信任和安全是一个术语，基本上在现代科技公司内部，它相当于内部事务。实际上，这是一个团体，实施了某种内部限制。这大概是从互联网公司开始的，我认为第一个必须信任和安全组织的公司是eBay，它有点像是监管互联网拍卖。当然，你需要有一个警察职能，你要有一个互联网拍卖网站。
我记得当eBay刚开始的时候，它似乎根本无法发挥作用，因为怎么会有人相信别人呢？eBay之所以成功有两个原因。首先，Pierre Omidyar相信大多数人都是善良的，所以大多数人都会列出合法产品并参与交易。但他也认为，拥有一种称为信任和安全的职能也很重要，这基本上就是警察。所以如果你在eBay上买了东西，而且是欺诈性的，你可以向某人申诉。
飞飞：这是一种很好的、没有被劫持的信任。
马克：
是的，你需要有，这是绝对必要的，你需要有它。
然后，第二阶段是社交媒体公司。如果你要为人们提供一个平台来交换信息，即使只是从法律角度来看，第一修正案也不是绝对的。言论自由有11条法律豁免，包括煽动暴力、儿童色情和恐怖分子招募等等。所以，如果你要有一个在线通信平台，你需要有一个团队来维护、监控和管理它。但问题总是，好吧，你在哪里划清界限，那些价值观是什么？当你问这个问题时，你马上就进入了政治哲学的领域，你处于设计和治理的领域。私人治理仍然是治理。
飞飞：
那么你的底线是什么？比如，您认为哪些地方信任和安全最重要，哪些地方超出了您的界限？
马克：
所以，我认为，首先，它很复杂，而且部分原因在于很多。这些都是非常大的问题，总体而言，这些都是非常宏观的问题。这些是政治结构的核心问题。这些是社会结构的大问题。这些都是重大的伦理和道德问题。所以这非常复杂。
具体到公司方面，情况就变得更加复杂，因为公司至少在理论上是私人行为者。而私人行为者可以拥有比公共行为者更受限制的领域。仅举言论自由的例子，这个，这个，现在在我们的校园里上演的一场大辩论，但简单的例子就是言论自由。你可以在城镇广场自由地谈论政治话题。这并不意味着有人可以在餐厅里站起来，开始对别人大喊大叫。就像人们一样，餐厅老板有能力在餐厅环境中强制执行更严格的言论管制，比整个社会都更严格。公司也是一样，公司有能力。
看，我有一个九岁的孩子，我想让他能够注册互联网服务。我希望他能拥有像迪士尼一样的体验，迪士尼乐园的体验，而不是，看，我喜欢对所有人开放的互联网。有一天，他也会喜欢对所有人开放的互联网，但我希望他有墙花园，那种控制。所以我认为公司有很大的自由度来决定这一点。再说一次，迪士尼的例子很好。迪士尼对迪士尼乐园内发生的行为准则与奥兰多街头发生的行为准则不同。所以我认为这些都是好的和有效的。
话虽如此，当你创建内部事务时，当你创建一支负责警务行动的警察部队，然后很快又负责言论监管时，在某个时候，就会出现这样的问题，比如，好吧，你要走多远？这个议程会把你带到哪里？而且，我只是，我认为，我认为，我认为，我认为，再说一次，我认为如果对此有多种观点，那就很好。我认为如果有很多不同的选择，那就很好。如果你最终处于一种普遍审查、普遍控制的环境中，我认为你就有真正的问题了。
飞飞:所以你想尽量减少政府监管。你还想尽量减少警察、自我监督的自治。
马克：不，我没有这么说。我只是说了相反的话。我完全支持迪士尼有权决定迪士尼乐园的命运。
飞飞：我明白了。对。但是，即使我不是说迪士尼的指数过高，但也有超越的可能性。
马克：对。
飞飞：那么你认为治理从何而来？
马克：看，它必须来自，从根本上讲必须来自领导层，这始终是一个领导层的问题。它必须在各个机构中。
飞飞：那社会呢？
马克：是的。所以它必须通过（社会）。看，这些都是非常活跃的辩论，从社会层面一直到最高法院。而且还会有更多这样的辩论。是的。然后看看公司内部。我会把它描述为我们在这个行业中是赶上公共汽车的狗。我对这些平台上发生的事情负有部分责任，这确实很重要。这些系统中发生的事情真的很重要。这些公司中发生的事情真的很重要。
看，我想说，如果这个行业被精简为两三四家大公司，这些公司会获得监管俘获，我认为这是他们正在尝试做的事情。如果他们基本上与政府联合起来，那么我认为我们必须处理一系列非常有力的社会层面问题。
如果在未来几年存在竞争格局，有大公司，有很多初创公司，有开源，有学术界，这些领域之间存在某种活力和竞争，那么我认为，就会有更多的灵活性，更多不同的方法，我希望看到更多。我希望看到更多，比如说，风格和方法的多样性。我认为这实际上是一个非常健康的结果。
飞飞：
这就是你我完全同意的地方。
最后，你们来到斯坦福，你们的整个家庭都是朋友，也是社区的一部分。您对斯坦福高中和斯坦福大学有什么希望和梦想？尤其是我们是世界领先的人工智能跨学科研究所，以人为本的人工智能。您对我们和我们的角色有什么希望和梦想？
马克：
是的。所以首先说，看，就像您提到的那样，感觉就像人工智能时代的曙光。这是一个有趣的概念，因为众所周知，人工智能实际上是一个有80年历史的领域。
飞飞：是的，但我们已经经历了这么多冬天。我们走过了一条漫长而曲折的道路才到达今天的位置。在座的各位可能都知道这一点。
马克：
第一篇概述神经网络理论的论文发表于1950年。不，是更早1943年。是Pitt和另一个人，我忘了他的名字。哇。观众中有大约80个人知道答案。所以最初的神经网络论文是1943年。
所以实际上有一本很棒的书，Thomas Ridd写了一本很棒的书，名为《机器的崛起》，他在书中回顾并真正追溯了机器的起源。20世纪30年代，人们实际上曾争论过计算机是否应该是冯·诺依曼机器（最终被称为冯·诺依曼机器），还是应该模仿人脑。这是一个有80、90年历史的领域。上世纪80年代末我在学校的时候，那是在人工智能之后，上世纪80年代人工智能蓬勃发展。之后出现了一次大萧条，即专家系统浪潮。所以，我觉得，我甚至不知道历史上有先例可以孵化这么长时间。然后，砰的一声，结果证明它成功了。我不知道有多大的惊喜，也许你一直有信心。
飞飞：
我不知道，就像化学和物理学在现代科学出现之前就已经酝酿了几百年一样，但你是对的。你说得有道理。
马克：
是的。所以，这是80年来的一次一夜成名，这真的是一件非常了不起的事情。所以，我之所以提起这件事，只是因为斯坦福大学在每一步都发挥了作用。约翰·麦卡锡在这里待了很长时间，斯坦福大学人工智能小组、斯坦福大学、麻省理工学院和其他几所机构有着悠久而丰富的历史，它们为实现这一点做出了很大贡献。所以这里的遗产是巨大的。我完全希望在技术方面继续这样做。
我认为，NLP课程学生现在是斯坦福大学本科生的四分之一吗？
飞飞：
是的。NLP、计算机视觉，我们都有数百名学生。但我能问你，你认为当我们甚至没有GPU时，我们如何取得如此大的进步？
马克：
所以，第一步，第一步，我们要确保有软件可以在GPU上运行。
所以我想说，我希望斯坦福大学能够捍卫知识自由、学术自由、实验自由、创新自由、开发自由和部署自由。因为我认为这是绝对必要的。因为如果像斯坦福大学这样的机构不这样做，在这样的领域，我们就会陷入真正的麻烦。这是第一点。
然后第二点，我认为这是一个政府绝对可以发挥作用的领域。这是我在华盛顿经常和他谈论的话题。我只想说，看，我的整个职业生涯，你提到我的互联网浪潮，我的整个职业生涯基本上都是政府资助的。是的。UIUC，超级计算机。
对于那些不知道的人来说，80年代有两项大型政府资助法案，一项基本上是资助当时所谓的国家超级计算中心。另一项是资助所谓的NSF网络，我们现在知道它是将每个人连接到超级计算机的互联网。
而且，基本上我的职业生涯之所以存在，是因为伊利诺伊州的NCSA基本上是由NSF资助的，这与我们现在的情况完全类似。当时的资金主要用于资助超级计算机，用于物理、化学和生物医学研究。在这里，显然需要同时资助用于人工智能研究的大型系统。我认为华盛顿特区对此的接受度实际上相当积极。我认为我们应该对此持乐观态度。但同样，这假设我们将生活在一个人工智能研究真正被允许发生的世界。
飞飞：非常感谢，马克。
马克：谢谢。