Anthropic警告AI自我复制时代逼近 全球研发需刹车

在AI能力以指数级加速突破之际，Anthropic却选择主动踩下刹车。2026年6月4日，这家AI巨头在官网发布深度报告《当AI构建自身》，首次系统披露AI在代码自编写与自优化领域的真实进展。文章不仅勾勒出“递归自我改进”——即AI无需人类介入即可自主迭代升级——这一场景正快速逼近现实，更罕见地公开呼吁全球暂缓前沿AI研发步伐，以规避潜在的失控风险。作为行业标杆的这份“刹车声明”，其分量远超常规的技术预警。

先看一组内部关键数据。截至2026年5月，Anthropic代码库中超过80%的合并代码由其AI助手Claude自主编写。2026年第二季度，工程师人均交付代码量是2024年同期的8倍。在科研与工程具体任务上，AI表现更为突出：优化小模型训练代码时，Claude的加速能力从一年前的3倍飙升至52倍；面对数万项训练任务同时崩溃的故障排查，AI仅用2小时定位并修复，而人类通常需要2到3天。更值得关注的是，AI独立稳定完成任务的周期，已从“每7个月翻倍”缩短至“每4个月翻倍”。这些数据背后，研发效率的指数级跃升已成定局。

当AI在“执行”层面——例如写代码、跑实验——几乎不消耗人类时间时，一个危险信号浮现：在充足算力支持下，AI极可能形成不断自我迭代增强的能力闭环，即“递归自我改进”。Anthropic指出，这一阶段尚未完全到来，也非必然，但其到来时间大概率早于大多数机构的预期。需要警惕的是：若AI彻底迈入全面自建下一代系统的阶段，当前模型中微小的“不对齐”行为，将在迭代中被复利放大，最终导致人类丧失对AI系统的控制权。

针对这一潜在的生存级风险，Anthropic在文中提出极具争议的建议：国际社会、政府及顶尖AI实验室应共同建立有效的全球协调机制，必要时主动放缓或暂停前沿AI发展。公司认为，为社会结构和AI对齐研究争取调适时间至关重要。但他们也坦言落地极其困难——AI训练比导弹发射井更容易隐藏，且秘密违约的商业诱惑巨大。一旦有竞争对手加速推进，谨慎的企业将失去领先地位。这种囚徒困境式的博弈，才是问题的核心。

值得一提的是，Anthropic选择这个时间点发布“刹车”宣言，时机耐人寻味。就在几天前的6月1日，公司刚刚向美国证券交易委员会秘密提交S-1注册声明草案，正式启动IPO筹备。目前，Anthropic年化收入已突破470亿美元，估值高达9650亿美元，超越竞争对手OpenAI。在这场商业狂飙与技术失控的博弈中，这篇长文既是AI行业迄今最诚实的自白，也折射出前沿科技在加速与刹车之间那道深刻的悖论。

来源：互联网