菜鸟AI - 让提示词生成更简单! 全站导航 全站导航
AI工具安装 新手教程 进阶教程 辅助资源 AI提示词 热点资讯 技术资讯 产业资讯 内容生成 模型技术 AI信息库

已有账号?

首页 > 资讯 > LFM2.5开源混合专家模型,端侧大模型新突破
其他资讯

LFM2.5开源混合专家模型,端侧大模型新突破

2026-05-31
阅读 0
热度 0
作者 菜鸟AI编辑部
摘要

摘要

Liquid AI 最新开源的端侧大模型 LFM2 5-8B-A1B,定位清晰:面向消费级终端设备,主攻工具调用

Liquid AI 最新开源的端侧大模型 LFM2.5-8B-A1B,定位清晰:面向消费级终端设备,主攻工具调用与高精度指令执行。模型名称虽长,但核心意图明确——在手机、笔记本等边缘硬件上实现高效推理,同时将算力消耗控制在合理范围。

架构层面,Liquid AI 采用稀疏混合专家(MoE)设计,总参数量 8.3B。关键在稀疏激活机制:每生成一个词元,仅调用约 1.5B 参数。相当于一支 8.3B 规模的专家团队,每次任务只选派经验最丰富的 1.5B 成员上场,效率自然高。这正是该模型能在智能手机、轻薄本等资源受限设备上稳定运行的底气所在。

上下文容量跃升与深度推理强化

相比前代,LFM2.5 的改进实实在在。原生上下文长度从 32K 延伸到 128K 词元,预训练语料从 12T 扩容至 38T。这意味着模型能一次性处理更长对话或文档,理解更复杂的上下文逻辑。更重要的是,它是一只纯推理模型——输出最终答案前会显式构建完整思维链,而非直接生成结论。同时,多语言词表经过高度压缩,能更精准地表征包括中文、阿拉伯文在内的九种语言。

长程推理中常见的“无限循环”与“幻觉”问题,Liquid AI 在训练阶段做了针对性处理。双阶段强化学习策略:第一阶段通过偏好建模缓解多步推理中的循环卡壳;第二阶段引入定制化防幻觉奖励函数,让模型在知识盲区主动回应“我不知道”,而非强行编造。这一做法在端侧模型中务实且有效。

端侧效能卓越且全栈生态无缝适配

性能方面,LFM2.5 实现了全面突破。逻辑推理与抗幻觉硬指标大幅领先前代;指令理解与执行能力甚至可对标参数规模更大的竞品。工具交互场景下,模型默认输出简洁的 Python 函数调用指令,也能通过系统提示词一键切换至标准 JSON 格式,兼顾灵活性与兼容性。

值得关注的是,模型上线当天即获得主流推理框架原生支持,包括 llama.cpp、MLX、vLLM、SGLang 等。实测数据很具说服力:在搭载 M5 Max 芯片的设备上,解码吞吐量高达每秒 253 字节;典型安卓旗舰手机上,也能稳定维持每秒约 30 字节的推理速度。对用户而言,隐私安全与运行效率都得到了切实保障。

来源:互联网

免责声明

本网站新闻资讯均来自公开渠道,力求准确但不保证绝对无误,内容观点仅代表作者本人,与本站无关。若涉及侵权,请联系我们处理。本站保留对声明的修改权,最终解释权归本站所有。

同类文章推荐

相关文章推荐

更多