其他资讯
大模型
京东云MiniMax
京东云MiniMax M3大模型首发，推理效率全面升级
摘要
京东云JoyBuilder平台首发集成MiniMaxM3大模型，融合自研推理引擎，深度整合PD分离部署、KVCach
大模型赛道上的迭代节奏再次刷新认知。MiniMax M3模型今日正式商用，而京东云的JoyBuilder模型开发平台已率先完成集成对接，并面向全体开发者同步开放全部能力——这意味着，开发者无需经历漫长的等待周期，即可直接上手调用这枚“新引擎”。
此次升级最核心的看点，在于推理性能的实质性跃升。简言之，模型能力再强，响应迟缓就难以落地。在实际部署过程中，JoyBuilder平台深度整合了自研推理引擎，并将PD分离部署、KV Cache缓存机制、投机采样等关键技术从底层架构层面进行协同调优，而非简单的功能堆叠。
实测数据印证了优化成效：新接入的M3模型在真实业务场景下呈现出显著更高的推理吞吐能力，端到端响应时延明显缩短。对开发者而言，这意味着更稳定、更敏捷的API调用体验；从宏观视角审视，高性能大模型在各类垂直场景中的落地进程也因此获得了实质性的加速推力。
来源：互联网
免责声明
本网站新闻资讯均来自公开渠道，力求准确但不保证绝对无误，内容观点仅代表作者本人，与本站无关。若涉及侵权，请联系我们处理。本站保留对声明的修改权，最终解释权归本站所有。
