2026年6月4日，Anthropic在官网发布了一篇题为《When AI builds itself》的长文，核心概念是"递归自我改进"，意思是AI开始参与设计和训练自己的下一代版本，形成类似自我进化的循环。文章最后呼吁"如果世界能够选择暂时中止前沿AI的开发，让社会跟上技术进步，这将对世界大有裨益"。
这话听起来非常负责任。
但时间线很有意思。就在三天前的6月1日，路透社和纽约时报同时报道，Anthropic已经秘密向美国证券交易委员会提交了IPO招股书。再往前推一周，Anthropic刚刚完成了650亿美元的H轮融资，投后估值达到9650亿美元，超越OpenAI成为全球估值最高的AI公司。
一边是万亿美元的IPO即将启动，一边是"AI太强大了我们自己都害怕"的安全警告。这两件事挨得如此之近，很难不让人产生联想。
The Verge在报道中直接点出了这种微妙感：Anthropic一方面说"递归自我改进尚未到来，也并非不可避免"，另一方面又暗示"它可能比大多数机构准备好的时间来得更早"。这种既肯定又否定、既警告又暗示的表述方式，几乎是为资本市场量身定制的叙事。
说白了，"我们的AI太强了，强到我们都要呼吁全行业停下来"，这本身就是最好的广告。
科学界怎么看：76%的研究者不买账
Anthropic的叙事建立在一个关键假设之上，即当前AI技术路线正在快速逼近AGI。但学术界对此的看法要冷静得多。
美国人工智能促进协会在2025年初对475名AI研究者进行了大规模调查。结果显示，76%的受访者认为通过扩大当前AI方法的规模来实现AGI"不太可能"或"非常不可能"。同一调查中，77%的研究者表示更倾向于优先设计具有可接受风险收益比的AI系统，而非直接追求AGI。
这不是少数人的异议，而是绝大多数一线研究者的共识。
Meta首席AI科学家、图灵奖得主Yann LeCun多次公开表态，称大语言模型是通往AGI的"死胡同"。他在2025年的采访中说："如果你对人类水平的AI真正感兴趣，就不要做大语言模型。"他认为当前系统缺乏对物理世界的真正理解能力，只是在文本层面进行统计模式匹配。
ARC基准测试的创建者François Chollet同样持批评立场。他指出大语言模型擅长的是记忆和模式匹配，而非真正的抽象推理，它们在面对全新问题时的表现远不如人类。即便在他设计的基准测试上取得高分，也不意味着AGI已经到来。
卡内基梅隆大学的Tim Dettmers在2025年12月发表了一篇广受关注的文章《Why AGI Will Not Happen》，从物理计算的角度系统论证了为什么AGI和超级智能都是不切实际的幻想。他指出GPU性能的实质性提升在2018年左右就已经见顶，之后只是添加了16位精度、张量核心、高带宽内存等"一次性特性"。Transformer架构已经接近物理最优，超级智能不会对神经网络架构产生实质性改进。
他的核心论点是：线性进步需要指数级资源。这意味着即便AI有能力"自我改进"，每一步改进所需的计算资源都会指数级增长，最终撞上物理极限。所谓的"递归自我改进导致智能爆炸"，在物理现实中根本无法成立。
纽约大学教授Gary Marcus是AI领域最知名的批评者之一。他在2026年的多篇文章中指出，AI泡沫的顶峰可能是2025年9月，2026年将是泡沫开始破裂的一年。他在LinkedIn上直言："任何声称仅靠大语言模型就能实现AGI的人，要么是在骗你，要么是在骗自己。"
Tech Policy Press的研究员Eryk Salvaggio在2025年3月的一篇系统性分析中列出了AGI炒作的六大陷阱，包括"共识幻觉""助长坏科学""预设价值中立""目标彩票""通用性债务"和"规范化排斥"。他特别指出，AGI这个概念之所以特别容易被炒作，恰恰因为它定义模糊。Anthropic的CEO Dario Amodei把AGI定义为"比诺贝尔奖得主更聪明"，微软AI负责人Mustafa Suleyman则认为AGI是"能把10万美元变成100万美元的系统"。连定义都无法统一，何谈"已经接近实现"？
安全叙事还是商业叙事
AI Now研究所在2025年度报告中对这种现象有一个精准描述：AI公司正在将"AI威胁论"转化为一种权力工具。声称自己的技术足以威胁人类文明，本质上是在向投资者和政策制定者传递一个信息，那就是"我们掌握的东西价值连城"。
Anthropic的处境尤其值得玩味。作为一家公益公司转制为营利实体的企业，它的品牌核心就是"负责任的AI"。每一次安全警告都在强化这个品牌故事，同时也在暗示它的技术已经触及了某种"危险的前沿"。对即将IPO的公司来说，这是完美的叙事组合：既有道德高度，又有技术壁垒的暗示。
但科学事实是冷酷的。当前没有任何经过同行评审的研究表明大语言模型具备真正的自主推理、因果理解或世界建模能力。所谓的"递归自我改进"在论文中被描述为AI参与代码编写和模型调优，这和"AI设计自己的继任者"之间存在巨大鸿沟。
Anthropic自己也承认"我们还没有到那一步"。但在IPO招股书即将面世的时刻，它选择用最具戏剧性的方式去描述一个"尚未到来"的未来，这个选择本身就值得审视。
9650亿美元的估值需要一个配得上的故事。"AI正在学会创造自己"，显然比"我们做了一个挺好用的聊天机器人"更能支撑这个天价数字。
阅读最新前沿科技趋势报告，请访问21世纪关键技术研究院的“未来知识库”
未来知识库是 “21世纪关键技术研究院”建 立的在线知识库平台，收藏的资料范围包括人工智能、脑科学、互联网、超级智能，数智大脑、能源、军事、经济、人类风险等等领域的前沿进展与未来趋势。目前拥有超过8000篇重要资料。每周更新不少于100篇世界范围最新研究资料。 欢迎扫描二维码或访问https://wx.zsxq.com/group/454854145828进入。
截止到2月28日 ”未来知识库”精选的百部前沿科技趋势报告
（加入未来知识库，全部资料免费阅读和下载）