Anthropic呼吁放缓AI：自我迭代闭环或致人类失控

AI初创公司Anthropic近日抛出一项尖锐判断：AI技术正加速接管自身的研发流程，这一趋势若推向极端，可能引发远超预期的社会性风险。

当地时间6月4日，Anthropic在官网发布长文，系统阐述了这一论点。文章指出，随着AI日益深度参与自身的迭代过程——在足够算力支撑下，AI系统将能够完全自主地设计、开发并训练出比自身更强的下一代系统。换言之，AI可能实现一种人类尚未做好准备的“递归自我改进”（Recursive Self-Improvement）。尽管听似科幻，但这家公司郑重提醒：这已不再是单纯的理论假设。

那么，面对这一趋势，应如何应对？Anthropic态度直截了当：放缓全球尖端AI的发展步伐“或许是一件好事”。不过，他们也补充道——如果只有一家公司放缓，竞争对手只会加速冲刺。要让减速真正落地，意味着多个国家的多家大型AI公司必须共同达成“可验证的协同减速”。这显然是一项极其复杂的协调任务。

为证明AI当前的实际能力，Anthropic展示了内部数据：目前，公司生产系统的代码中有超过80%由AI助手Claude自主编写。而在2025年2月推出编程工具Claude Code之前，这一比例仅为个位数。如今，“Claude负责写代码、人类负责指导与审查”已成为公司的标准工作模式。结果如何？今年第二季度，Anthropic工程师平均每人每季度交付的代码量，达到了2024年的8倍。

当然，代码行数衡量的是数量而非质量。但Anthropic特意强调，他们并不依据员工编写的代码行数发放奖金——因此这一增长更多反映了AI驱动下的真实生产力跃升。根据公司今年3月对130名员工的采访统计，AI能独立稳定完成的任务长度，已从早期的“每7个月翻倍”缩短至现在的“每4个月翻倍”。迭代速度正在加快，且肉眼可见。

模型在实验优化和科研任务上的表现同样惊人。举个具体案例：在“优化小模型训练代码使其运行更快”的测试中，2025年5月，Claude Opus 4平均只能让代码提速约3倍；而到了2026年4月，其Mythos预览版模型已实现52倍加速。这不是小步快跑，而是跨越式飞跃。

基于这些数据，Anthropic提出，在合适条件下，AI完全可能形成一套不断自我迭代增强的能力闭环，即所谓的“递归自我改进”。公司也坦言，人类目前尚未抵达这一阶段，这一趋势也并非必然发生——但它到来的速度，很可能会超出绝大多数机构与组织的准备节奏。

为让讨论更加清晰，Anthropic给出了三种未来可能性：第一种，技术进步大幅放缓；第二种，AI持续带来巨大的生产力增益，但人类仍掌握最终控制权——这一条目前看来最有可能发生；第三种，AI系统彻底跨入全面自建其继承者的阶段。若第三种成真，尽管AI自建能力能为科学、医疗等领域带来无与伦比的益处，但其中蕴含的生存风险同样巨大——人类可能失去对AI系统的控制权，监督也将变得极其困难。

因此，Anthropic呼吁：国际社会、政府及顶尖AI实验室应当共同努力，建立有效的全球协调机制，以便在必要时能够主动放慢或暂停前沿AI的发展。目的明确：为人类留出足够时间，来调适社会结构、推进AI对齐研究。

这篇文章发布的时机耐人寻味。就在几天前的6月1日，Anthropic刚宣布已向美国证券交易委员会（SEC）保密递交S-1注册声明草案，正式启动IPO筹备流程。若SEC审核顺利，公司即可择机上市。根据Anthropic披露，其年化收入（ARR）已在今年5月初突破470亿美元，有望在本月底达到500亿美元。虽然上市具体时间和募资规模尚未公布，但分析指出，公司最快可能于今年秋天挂牌。目前，Anthropic估值已达9650亿美元，超越了竞争对手OpenAI的8520亿美元。

一边是技术前沿的风险预警，一边是资本市场的高歌猛进——Anthropic这手“先示警、再上市”的组合拳，确实值得深究。

来源：互联网