2024年AI安全榜单：Mythos大模型为何被无限期封印？

近期AI领域出现了一个值得玩味的动态。估值已超越OpenAI的美国人工智能公司Anthropic，在不久前推出了被誉为“史上最强大”的大模型Mythos Preview。然而，该公司随后又宣布将无限期推迟这一顶级模型的公开部署，其核心理由直指模型能力本身——它过于强大了。

事件的起因需回溯至Mythos的发布。当时，Anthropic联合美国多家顶尖科技企业与研究机构，共同发起了一项名为“Glasswing”的网络安全协作计划。该计划的实质，是将Mythos这一前沿技术工具开放给合作伙伴，用于主动探测其自身系统中的潜在安全缺陷。

如今，该项目公布了阶段性成果。Anthropic官方披露，尽管内部评估已证实，新一代安全基础模型Claude Mythos Preview在漏洞挖掘与网络攻防演练方面展现出卓越性能，但在研发出更为鲁棒的安全对齐方案之前，公司决定无限期暂停向公众及商业市场提供Mythos级别的模型访问。

其性能究竟如何？根据公开数据，在向合作伙伴开放测试的一个多月内，Mythos已在多个关键基础设施领域识别出超过10000个高危或严重级别的安全漏洞。其检测效率据评估已达到传统方法的十倍以上。

然而，强大的能力也带来了新的挑战。漏洞的发现速度远超行业现有的修复能力，导致部分合作机构不得不向Anthropic提出请求，希望适当控制漏洞扫描的节奏，为系统修补留出必要时间。

事实上，Anthropic近期已多次释放信号，强调正是由于Mythos的能力边界难以完全掌控，才促使他们采取审慎的发布策略。公司高层甚至在多个场合提及人工智能可能构成的“生存性风险”。

在近日于伦敦举行的一场行业会议上，Anthropic联合创始人Jack Clark再次发出警示，指出AI存在“非零概率”导致人类灭绝的长期风险。他进一步预测，到2028年，AI系统可能实现“自主进化”，即无需人类直接干预即可完成自我迭代与能力提升，这将引发一系列不可预知的范式变革。

关于“AI灭绝人类”的讨论，在美国AI核心圈层中并非新议题。包括OpenAI、Anthropic以及相关科技领袖在内的前沿阵营，时常在强调技术巨大潜力的同时，也着重渲染其可能带来的终极风险。这种既展示实力又警示危险的双重叙事，已成为某种行业话语策略。

此类策略也引发过业内反思。例如英伟达CEO黄仁勋近期曾评论称，部分科技领袖可能陷入“上帝情结”，过度自信于自身的掌控力与认知边界。这一评价，在一定程度上揭示了当前AI伦理讨论中的复杂心态。

光环之下：Mythos的真实面貌

若暂时搁置宣传叙事，仅从技术层面审视Mythos大模型。其在网络安全漏洞挖掘方面的有效性已得到初步验证。但亦有早期测试者反馈，该模型响应延迟较高，并不适用于常规交互场景，甚至在代码生成等任务上表现也未达顶尖水准。

此外，Anthropic始终未公开Mythos的具体架构参数。业界分析普遍推测，这可能是一个参数量达到十万亿级别的超大规模模型。如此体量的模型，不仅训练成本极为高昂，其实际部署与推理的资源消耗也极为巨大，从商业化普及的角度看，天然存在较高门槛。

因此，综合技术特性与商业现实来看，Anthropic当前以“能力过强、风险过高”为由无限期推迟Mythos公开上市，其决策背后可能交织着深层的产品策略与市场考量。倘若Mythos真是一个既能实现超凡安全检测、又能保持高效低成本部署的成熟产品，其上市策略或许会是另一番景象。

来源：互联网