杨立昆预测:JEPA五年内击败大模型
摘要
图灵奖得主杨立昆近期在一档播客中放话:“五年内,JEPA将主导大模型格局。” 话音刚落
图灵奖得主杨立昆近期在一档播客中放话:“五年内,JEPA将主导大模型格局。”
话音刚落,他自己也笑了,看似一句玩笑。但熟悉他的人都知道,在技术议题上,这位AI泰斗极少戏言。
同一期播客里,他还抛出更尖锐的观点,直接点名另一位图灵奖得主——杰弗里·辛顿。
GPT-4引发的路线分歧
时间回溯到2023年,GPT-4的发布让整个AI领域彻底沸腾。
在此之前,辛顿对LLM的关注度并不高。但GPT-4之后,他的立场骤变,惊呼:“天哪,大模型已非常接近人类智能,未来甚至可能具备主观体验。”
辛顿随即密集接受采访,反复敲响警钟:AI可能在未来对人类社会构成生存威胁。
但杨立昆完全不认同这种论调。他在播客中直言不讳:
“我觉得他根本就是在躺平,然后退休,满世界做AI危险主题的演讲。”
“事实上,我多年前就提出过这些观点,辛顿只是最近才后知后觉。”
要知道,杨立昆、辛顿与本吉奥并称深度学习三巨头,2018年一同斩获图灵奖。如今杨立昆认为,这两位老友都已偏离了最初的轨道。
硅谷的“羊群效应”困境
杨立昆不仅对辛顿持保留态度,对整个AI赛道同样忧心忡忡。
在他看来,无论是科技巨头还是初创企业,如今都在集体押注大模型,疯狂追逐参数规模与应用体验,却鲜有人愿意探索新的技术路线。
他将这种扎堆竞争比喻为“羊群效应”——人人惧怕掉队,即便存在更高效的路径,企业也难以跳出主流框架。
他打了个比方:当下的OpenAI、Anthropic等公司,就如同当年的Sun Microsystems。Sun曾风光无限,最终却被市场淘汰。杨立昆认为,大模型的局限是内生的,随着规模扩张会触及天花板,平台终将走向开源与开放化。
JEPA:跳过像素,直击规律
既然杨立昆不认同当前的LLM路线,那他推崇的方向究竟是什么?
答案正是他主导的JEPA架构。简单拆解其核心逻辑。
当前大模型的底层机制是“预测下一个token”:输入一段文本,模型计算下一个词的概率,循环往复。但杨立昆认为,这种方式无法达成真正的智能。
他举例说明:AI可以完美背诵“苹果会从树上落下”,但若不教授重力概念,它完全无法理解苹果为何下落。
JEPA的运作方式截然不同。它先将信息压缩为抽象的数学表征,然后在此抽象空间中预测事物的运动规律与发展趋势。
不妨这样理解:
传统模型像一个记忆力超群的人,能背诵所有文章;而JEPA则像一位通过观察就能悟出物理规律的天才——无需具体细节,仅凭几次观察就能总结出法则。
豪赌未来:无人甘愿认输
今年初,杨立昆结束在Meta的12年任期,创立AMI实验室,专注世界模型研究。
目前AMI已完成10.3亿美元种子轮融资,投资方涵盖多家知名基金与科技巨头。杨立昆表示,AMI不会急于商业化,计划至少用一年时间夯实基础理论,并承诺大部分成果将开源。
谈及离开Meta的原因,他指出公司重心已向商业化竞争倾斜,而他坚持研究应回归本质。
归根结底,杨立昆与辛顿的分歧,本质是对“智能”定义的认知差异。一方认为,通过海量数据训练的大语言模型已迈出通往AGI的关键一步,因此需警惕风险;另一方则认为这条路径根本走不通,真正的智能必须包含对物理世界的理解能力。
至于JEPA能否在五年内主导世界?答案或许只有时间能揭晓。但如果杨立昆的预判正确,那么当下大模型的这场狂热,很可能只是AI史上的一段短暂插曲。
来源:互联网
本网站新闻资讯均来自公开渠道,力求准确但不保证绝对无误,内容观点仅代表作者本人,与本站无关。若涉及侵权,请联系我们处理。本站保留对声明的修改权,最终解释权归本站所有。