被谷歌开除的预言家：14页论文预见AI时代

如果把时间拨回2020年，当时AI圈讨论得最多的，还是GPT-3到底有多强。

那一年，生成式AI远未成为全球焦点，ChatGPT还要再过两年才问世，大模型更没有掀起后来那种席卷一切的投资狂潮。可就在那个节点，一位谷歌的顶级AI研究员，因为一篇还没正式发表的论文，跟公司爆发了激烈的冲突，最后丢掉了工作。

当时很多人觉得，这不过就是硅谷又一起关于学术发表、职场管理和企业文化的争议。但如今回过头来看，人们才发现，那篇论文里的警告，几乎一个不落地在现实中应验了。

而被解雇的研究员，正是AI伦理领域最具影响力的人物之一——Timnit Gebru。

一场震动AI圈的“解雇事件”

2020年12月，Timnit Gebru在社交平台上发布消息：自己已经被谷歌解雇。

消息一出，整个AI研究圈都炸了。当时的Gebru可不是普通研究员，她是谷歌伦理AI团队（Ethical AI Team）的联合负责人，也是全球AI公平性与算法偏见研究领域里相当知名的一位学者。

Gebru出生在埃塞俄比亚，长期关注AI中的种族偏见、性别歧视以及社会公平问题。在加入谷歌之前，她在斯坦福大学做研究，2018年参与发表了一篇关于算法偏见的研究，被很多人视为AI公平性研究的一个重要转折点。也正是在那一年，谷歌把她招入麾下，高调展示公司对“负责任AI”的重视。

然而，仅仅过了两年，双方就走向了决裂。

当时，谷歌对外给出的说法是Gebru主动辞职，但Gebru本人给出了完全不同的版本：她说自己是在休假期间收到公司邮件，被告知离职立即生效，所有内部系统权限和邮箱访问权限也同时被关闭。

在她看来，这毫无疑问就是解雇。

随后，超过4000名谷歌员工和业内人士签署公开信，质疑公司的处理方式，要求给Gebru复职——而这一切的导火索，是一篇只有14页的学术论文。

一篇14页的论文引发争议

这篇论文叫《On the Dangers of Stochastic Parrots》（《随机鹦鹉的危险》），作者包括Timnit Gebru、华盛顿大学语言学教授Emily Bender，以及另外两位研究人员，被引用次数目前已超过1.4万次。

后来，“随机鹦鹉”这个说法也广为流传。论文的核心观点是：大型语言模型本质上是在统计规律的基础上复现语言模式。它们能生成流畅、自然甚至看起来很有逻辑的文本，但根本不真正理解语言的含义——就像一只学会模仿人类说话的鹦鹉，看似聪明，但这种模仿只是建立在海量互联网文本之上。而互联网本身充满了偏见、歧视和仇恨内容。所以，大模型极有可能把这些一并学进去，并在生成内容时进一步放大。

要知道，那可是2020年，GPT-3刚发布，ChatGPT还没诞生，大模型热潮远未到来，这篇论文就已经提前预言了今天整个行业最头疼的问题之一。

论文提交给顶级AI伦理会议后，谷歌管理层提出要求：撤回论文，或者移除谷歌研究人员的署名。Gebru拒绝了，她要求公司说明具体原因，希望双方能进一步讨论。

与此同时，她还给谷歌内部员工群组发了一封措辞激烈的邮件。在邮件里，Gebru批评谷歌在推动少数族裔招聘和解决内部不平等问题上缺乏实际行动。她写道：“当你开始为弱势群体发声时，你的处境就会越来越糟。你会让其他领导层感到不舒服。”她还表示：如果公司始终无法解释为何要撤回论文，那她会在适当的时候选择离职。

事情的发展远超她的预料。Gebru说，谷歌随后回复称不会满足她提出的要求，并直接接受了她的“辞职”，立即取消了她的所有访问权限。

这件事迅速演变成全球AI领域最具争议的话题之一。

当年看似激进的观点，如今已成现实

真正让这起事件持续被讨论至今的，不是解雇本身，而是那篇论文里的内容——因为今天回头再看，其中提出的几乎每一个担忧，都已经变成AI行业正在面对的现实问题。

（1）第一项预警：模型会“胡说八道”

2020年，GPT-3刚发布。当时人们惊叹于模型生成文本的能力，却很少有人认真讨论它的可靠性。Gebru和Bender指出：随着模型规模不断扩大，人们会越来越容易把流畅表达误认为真正理解。模型看起来像是在思考，实际上只是在预测下一个最可能出现的词，因此，它们迟早会生成看似合理却完全错误的信息。

今天，这个问题有了一个所有人都熟悉的名字：AI幻觉（Hallucination）。无论是ChatGPT、Gemini、Claude还是其他先进模型，幻觉问题至今仍未被彻底解决。某种意义上，这篇论文在“幻觉”成为行业热词之前，就已经准确预见了它。

（2）第二项预警：偏见不会消失，而会被放大

论文还指出，互联网本身就不是中立的数据来源，训练数据天然就包含各种种族、性别、文化和地域偏见。模型不仅会学习这些偏见，还可能因为优化机制进一步强化它们。

后来，各种现实问题验证了这一担忧：

亚马逊曾尝试用AI筛选求职简历，结果系统会自动降低包含“women”（女性）等关键词的简历评分。

美国多家大型医院使用的医疗风险评估系统被发现，长期低估黑人患者的医疗需求。

苹果信用卡Apple Card也曾因女性获得的信用额度远低于男性而引发监管关注。

这些案例都在说明：算法并没有自动实现公平，相反还可能将现实世界中的不平等以更加隐蔽的方式固化下来。

（3）第三项预警：AI的能源消耗将成为新问题

2020年，算力成本远没有今天这么受关注，但那篇论文已经开始讨论训练超大模型带来的环境影响。据研究人员测算，训练一个大型语言模型所产生的碳排放量，相当于五辆汽车整个生命周期的排放总和——当时，这个说法被不少人认为过于悲观。

然而，随着AI基础设施建设进入军备竞赛阶段，问题迅速显现：根据谷歌公开的数据，2024年公司温室气体排放量比2019年增长了48%；微软同期也增长了约29%。这两家公司都明确表示，AI数据中心和算力基础设施是重要原因之一。

有些讽刺的是，这些科技巨头几年前还在高调宣传碳中和目标。

（4）第四项预警：没人真正知道训练数据里有什么

在很多人眼中，训练数据似乎只是一个工程问题。但Gebru认为，随着数据规模越来越大，完整审计训练数据将变得几乎不可能。

这个观点再次应验：2023年，研究人员发现广泛用于训练图像生成模型的数据集LAION-5B中，存在大量儿童虐待图片，包括Stable Diffusion在内的多个主流模型都曾使用过这个数据集。

意料之中，许多开发者此前并不知道这些内容的存在。也就是说，即便是模型开发者自己，也未必真正了解模型“吃进去”的是什么——而这恰恰是论文最早提出的问题之一。

（5）第五项预警：互联网将逐渐被AI内容占据

在谷歌看来，这可能才是整篇论文最敏感的部分。Gebru和Bender认为，大模型的发展最终会把语言和文化的话语权集中到极少数科技巨头手中。原因很简单：训练超大模型需要海量资金、算力和数据资源，真正有能力参与竞争的公司屈指可数。

久而久之，互联网中的主流声音将逐渐演变成：由少数公司训练出的统计平均值，然后再以“中立助手”的身份向全世界传播。与此同时，那些在训练数据中占比较低的语言和文化则会被进一步边缘化。

更严重的是，当AI生成内容再次进入互联网，并成为下一轮训练数据时，问题还会不断自我强化——这正是如今研究人员所说的“模型崩溃（Model Collapse）”。

2024年的一项研究发现，英文互联网新增内容中，约57%已经是AI生成或AI辅助生成；而针对低资源语言的研究则发现，由于训练数据越来越多地来自AI生成内容，部分语言的翻译质量已经出现明显退化。

换句话说，这篇论文不仅预测到了“模型崩溃”现象，甚至在这个概念正式出现之前，就已经指出了其形成机制。

离开谷歌后，她选择继续研究

事件发生后，很多人后来把Gebru描述成“反AI人士”。其实不然，她从未主张停止发展AI。从始至终，她质疑的是另一件事：

到底是谁在决定AI的发展方向？

在她看来，推动大模型发展的研究人员和管理层往往拥有相似背景，服务于相似的商业目标，并受到相同的竞争压力驱动。在这样的激励机制下，更快地发布产品、更快地扩大用户规模、更快地赢得市场竞争，往往比安全、公平和伦理问题拥有更高的优先级。

而所有试图减缓这一进程的人，都可能被视为阻碍者。讽刺的是，Gebru正是在谷歌内部提出的这个观点，而谷歌通过解雇她，也让这个观点获得了最具戏剧性的现实注脚。

更令人唏嘘的是，事件发生后不久，另一位伦理AI团队联合负责人Margaret Mitchell也被解雇——短短90天内，谷歌曾经那个引以为傲的伦理AI团队基本被瓦解。

离开谷歌后，2021年Gebru创立了分布式AI研究所（DAIR，Distributed AI Research Institute）。与大型科技公司不同，这家机构希望在商业利益之外开展AI研究，目标很直接：研究那些科技巨头未必愿意面对的问题。过去几年里，DAIR持续关注数据来源、算法公平性、语言多样性以及AI产业权力集中等议题。

而随着生成式AI爆发式发展，越来越多的研究者也开始重新关注那篇《随机鹦鹉的危险》：因为他们发现，当年论文中被视为过度担忧的问题，如今已成为行业每天都在讨论的现实。

或许，她只是比其他人更早看到了问题

六年过去，关于Timnit Gebru与谷歌之间的是非争议，外界或许永远无法获得一个所有人都认同的答案。

谷歌认为，那是一场正常的学术审查与离职事件；Gebru则认为，自己因为坚持发表研究成果而遭到打压。但有一点已经越来越难以否认：

那篇导致她离开谷歌的论文，并没有随着争议结束而失去意义。

恰恰相反，它讨论的幻觉、偏见、数据污染、环境成本、模型崩溃和权力集中等问题，如今已经成为整个AI产业无法回避的话题。

有时，历史会以一种出人意料的方式给出评价。

2020年，很多人觉得Timnit Gebru太悲观了；

2026年，人们开始意识到，她或许只是比其他人更早看到了问题。

来源：互联网