OpenAI前研究员深度测评：AI失控风险与行业公开秘密

OpenAI前研究员、现任AI未来项目负责人丹尼尔·科科塔伊洛近日发出明确警示。他指出，当前人工智能领域正卷入一场目标模糊的竞赛，各大公司全力构建的，是连其创造者都未能完全理解、更无法确保可靠控制的复杂系统。

这一困境的核心在于“对齐”问题。科科塔伊洛强调，尽管AI在多项任务上的性能已超越人类，但研究人员对尖端模型内部的决策逻辑与表征机制依然缺乏根本性理解。这种本质上的“黑箱”特性，使得确保下一代更强大的AI系统能稳定、可预测地贯彻人类价值观，成为一项极其严峻的工程与伦理挑战。

超级智能的威胁

他坦言，对齐问题的艰巨性在业内已是共识，但关键在于，我们目前并未掌握经得起验证的可靠解决方案。科科塔伊洛分析认为，超级智能的诞生可能意味着地球主导物种的更迭。他的模型显示，若行业持续将研发速度置于安全架构之上，系统失控与不可预测的后果风险将呈指数级攀升。

低估的发展速度

当前，许多观察者仍低估了AI能力的演进曲线，将关于失控风险的讨论归类为遥远的科幻议题。然而现实是，全球科技巨头正持续投入数百亿美元资本，扩建超大规模数据中心与算力集群，全力催化下一代核心模型的突破。

科科塔伊洛的警告，正是在这场以算力与数据为驱动的竞赛不断升级的背景下提出的，它深刻反映了行业内部对技术路径安全性的深切忧虑。面对模型能力即将到来的阶跃式提升，如何在突破性能边界与构建坚实可控的安全护栏之间取得平衡，已成为决定技术未来走向的核心命题。

来源：互联网