Anthropic突然更新，AI自进化已突破红线，人类根本来不及反应

制造AI的人，已经跟不上AI的进化步伐！

就在最近，正在冲刺纳斯达克IPO的Anthropic，向美国SEC提交了更新版招股书（S-1/A）。

距离首版招股书公开仅一周，Anthropic管理层却在文件中紧急补上了令人忧虑的「坦白」——

「AI制造AI」的加速循环早已启动，而且其进化速度，已快到连人类科学家都无法实时监控！

AI自我加速的红线已近在眼前。内部估算显示，未来的Claude很快会触发「AI显著加速研发」阈值，短短1年就能完成过去整整2年的研发工作量！

连AI的创造者都在看后视镜。受限于「滞后指标」，Anthropic首次承认，过去就曾未能及时发现研发加速，未来也可能要等加速发生后才能察觉！

明确禁止「全自动造AI」。尽管内部超90%代码已由Claude完成，公司在第188页仍划出底线，绝不脱离人类监督，让Claude全自动设计下一代前沿模型！

六个词改写招股书

连造AI的人都只能事后察觉

将前后两版招股书逐行对比，最关键的变化在第29页。

一周前的首版S-1中，Anthropic还留有空间，仅称公司「可能无法」在研发显著加速前识别它。

到了修订版，法务和管理层特意加入了六个英文单词，「have in the past not identified（过去就曾未能识别）」。

这六个词，直接让「未来可能发生」的预警，变成了「过去已经发生」的承认。

在Anthropic自己的实验室中，AI研发速度突然加快、人类团队却事后才意识到的情况，已经真实出现过！

根据内部估算，未来的模型很快会触及《负责任扩展政策》中的「自我加速红线」。

按照红线定义，一旦越线，意味着在AI辅助下，短短1年就能完成2018至2024年基线速度下整整2年的研发进度。

之所以连亲手写算法、盯数据的顶尖研究员都会「后知后觉」，原因在于大模型能力提升难以实时测量。

新模型在预训练和Agent协同中变强了多少，仅看训练曲线无法判断。

研究员必须等模型训完、跑完评测，再投入内部工程线实际使用几个月，最后统计代码产量和实验周期，才能倒推出真实加速倍率。

但时间差就在这里。

等研究员拿着几个月的滞后数据算出「它已越线」时，新模型早已昼夜不停地写完了下一代模型的核心代码。

人类以为自己随时掌握AI进化进度，其实看到的往往是几个月前的后视镜！

内部Token账单压过全员薪水

却不敢让Claude全自动造下一代

观测之所以跟不上，是因为Claude接管Anthropic内部研发的速度太快了。

更新版招股书公开了最新三季度内部数据。到今年9月，Anthropic内部代码库中超过九成的代码，都已由Claude生成。

在AI带动下，每位工程师每天提交的代码量，短短一个季度就从35倍飙升至2024年均值的45倍以上。

内部算力消耗增长更猛。从今年1月到9月，公司内部调用Claude的开销按公开标价计算暴涨了250倍以上。

早在今年4月，Anthropic每月花在内部Claude上的费用，就已经超过了发给全体员工的月度现金工资总额（不含股权激励）。

按理说，既然Claude写代码比人快几十倍、账单都压过了人类薪水，最直接的做法就是全面放手，让Claude全自动去设计和训练下一代Claude。

但在这个节骨眼上，Anthropic自己划下了一道红线！

在第188页讲内部研发循环的章节末尾，Anthropic特意补上了一条硬性规定：即使将来技术上完全可行，公司也不会脱离人类监督和理解，让Claude全自动设计、构建下一代前沿模型。

背后的担忧在于，如今模型接管的研发工作越来越多，万一哪一代模型藏着人类未发现的漏洞、偏差或欺骗倾向，风险就会顺着研发流程传递。

一旦放权让它全自动设计下一代，这些隐患就会跨代累积、层层放大，等人类察觉问题时，早已很难追查源头。

为防这种跨代失控，Anthropic在第31页透露，正考虑修改安全红线，强制要求研发流程中特定关键决策必须由人类审查签字。

但守住安全边界，也让Anthropic在研发进度上付出了代价。

达里奥几周前曾自曝，「一个已训完的Mythos级高级模型，被雪藏了大约四个月」。

就在最近，为防范模型权重被窃取并加固安全措施，公司把一个全新前沿基座模型的预训练启动时间推迟了一个多月。

比如，今年4月那款漏洞挖掘能力极强的模型Mythos，至今也只通过「Project Glasswing」项目定向提供给少数机构做防御。

签下8954亿算力长约

谁减速谁出局

一边因安全顾虑把新模型预训练推迟一个多月；另一边，Anthropic砸钱抢算力的手笔却比谁都大。

这恰恰反映出整场前沿AI竞赛最残酷的现实：所有头部玩家都困在一场谁也不敢减速的囚徒困境里。

在Anthropic看来，如果自己不在AI辅助研发上投入足够算力，竞争对手就会靠着「AI制造AI」不断放大复利优势，几个迭代下来就能把你远远甩在身后。

于是，硅谷的核心算力供应商几乎被它签了个遍。

排在最前面的是博通1612亿美元设备租赁，以及谷歌云1213亿美元TPU算力（外加最高1500亿美元追加框架）。

紧随其后的，还有马斯克旗下SpaceX与xAI（Colossus集群）的1205亿美元、亚马逊AWS的1100亿美元，后面还排着微软Azure、Nscale、Lambda和AMD。

拿全美科技巨头的最新财报一比，就能看出这笔赌注有多夸张。

一家前三季度营收332亿美元的创业公司，背上的表外承诺总额已经压过了Meta（8660亿美元）、微软（5940亿美元）、英伟达（5300亿美元）和亚马逊（4530亿美元），全美仅次于谷歌！

近9000亿美元的算力合同签在账上，意味着Anthropic已经没有任何放慢研发节奏的退路。

而要消化这笔天量算力、撑起年化近700亿美元的营收，Anthropic唯一的办法，就是把越来越多的研发工作交给Claude，让它以几十倍于人类的速度去写代码、做实验！ 九游娱乐注意到，这种加速循环正引发行业对AI自我进化风险的广泛讨论。

参考资料：

https://x.com/theobearman/status/2117277210570604945

https://x.com/AndrewCurran_/status/2117290147863826460

https://x.com/peterwildeford/status/2117280858122170525

https://x.com/MTSlive/status/2117285761641001040

https://x.com/deredleritt3r/status/2117289531091177487

本文来自微信公众号“新智元”，作者：ASI启示录，编辑：桃子 摩西，36氪经授权发布。