16GB内存跑12B多模态！谷歌AI Edge Gallery登陆Mac端侧评测

苹果 Mac 用户若想在本地离线运行生成式大模型，如今又多了一项可靠选择。谷歌最新推出的实验性应用——AI Edge Gallery，现已正式登陆 macOS 平台。这意味着你的 Mac 完全可以脱离云端，在设备端完成私密、离线的对话、图像处理乃至语义解析——所有数据全程不上网，隐私保护落到实处。

与 Ollama、LM Studio 这类通用型开源模型管理工具不同，谷歌这次走的是高度聚焦的垂直路线。AI Edge Gallery 仅集成谷歌自家的大模型系列，首发上线 5 款经过指令微调的专属模型。其中既有性能突出的旗舰款 Gemma-4-12B-it，也有专门面向终端设备设计的 Gemma-4-E2B-it、Gemma-4-E4B-it、Gemma-3n-E2B-it 和 Gemma-3n-E4B-it——支持参数卸载架构，能在更有限的硬件上流畅运行。

其中最受关注的，无疑是那款 120 亿参数规模的旗舰端侧模型 Gemma-4-12B-it。谷歌官方给出的数据相当亮眼：得益于底层架构与 macOS 的深度协同优化，这款模型居然能在配备 16GB 内存的常规 Mac 上，高效稳定地完成文本、视觉甚至音频等多模态输入的本地推理。换句话说，轻薄笔记本也能化身全天候离线智能助手——代码生成、逻辑推理，样样在线，且完全无需网络依赖。

除了模型库，谷歌还同步为 Mac 生态推出一款免费离线语音效率工具——Google AI Edge Eloquent。这款工具专注单一场景：离线智能语音转写。不仅能高精度识别你的语音内容，还能在本地实时剔除冗余表达、口误，并对输出文本做基础润色——把即兴口语自然转化为条理清晰的书面表达。想想实际场景：开会随手录，转出来就是干净的文字稿。

更值得一提的是，Eloquent 特别加入了“自定义词汇表”功能。你可以在应用里预先录入个人姓名、行业专有名词、常用短语组合——有效规避传统语音软件在垂直领域里乱改专业术语的尴尬。所有语音识别和文本优化流程都在 Mac 本地芯片内闭环执行，全程不上传任何数据。对职场用户而言，隐私安全与商业敏感信息的严苛防护，这次算是真正落地了。

来源：互联网