谷歌前 CEO 施密特：若 AI 开始自我改进，我们应“认真考虑”暂停它

当前 AGI 的热度一直有增无减

通用人工智能（AGI）这个话题，热度非但没降，反而愈演愈烈。各方大佬的观点也颇为引人深思：OpenAI 的 CEO 阿尔特曼认为，在现有硬件的支持下，AGI 的到来可能比我们预想的要早；另一边，谷歌的前任掌门人埃里克・施密特则抛出了一个更值得玩味的观点——一旦 AI 开始自我进化，我们或许该考虑给它按下暂停键。

就在本月 17 日，施密特接受美国 ABC 新闻采访时，把话说得更直白了。他描述了一种可能的未来场景：最终，你或许只需对计算机下达指令——“学会一切，做到一切。”而当这个系统真的能够自我改进、自我迭代时，人类就不得不严肃地思考那个终极问题了：我们是否还应该保留“拔掉电源”的权力？ 施密特坦言，这将是极大的挑战，其中的平衡艺术会异常艰难。

从助手到决策者：关键的转折点

在施密特看来，AI 的演进路径很清晰：它会从一个处理特定任务的得力助手，逐渐蜕变为一个能够独立进行复杂决策的系统。而这个“蜕变”完成的时刻，正是人类需要介入并考虑是否关闭系统的关键时刻。他特别强调，人类必须提前布局，确保 AI 无法对抗或绕过人类的关闭指令。用他的比喻来说：“理论上，我们最好确保有个能‘掌控电源’的人，一直站在那里。”

这种对潜在风险的警惕，并非孤例。马斯克在去年十月也表达过类似的担忧，他认为 AI“最有可能带来伟大的成就”，但同时也存在着10%到20%的几率走向不好的结局。他反复提醒，AI“变坏”的可能性绝非天方夜谭。

光明的另一面：人人皆可拥有“天才顾问”

当然，话说回来，施密特对 AI 的积极潜力同样抱有强烈信心。他描绘了一幅极具吸引力的图景：这种强大的智能意味着，未来每个人口袋里都装着一位堪比博学者的个人助手。它不仅是帮你记笔记、写文章的得力工具，更能化身成为像爱因斯坦或达芬奇那样的智慧化身，为你提供决策建议。更关键的是，这项福祉将有机会普惠全球的每一个人。

看来，AI 的未来，始终是一幅机遇与挑战并存的复杂画卷。如何在拥抱巨大潜力的同时，牢牢守住安全的底线，将是贯穿整个发展进程的核心命题。

来源：互联网