阿里通义千问发布 Qwen2.5-Turbo AI 模型：支持 100 万 tokens 上下文，处理时间缩短至 68 秒

阿里通义千问发布 Qwen2.5-Turbo AI 模型：支持 100 万 tokens 上下文，处理时间缩短至 68 秒

11月19日传来消息，就在前一天，阿里通义千问正式揭晓了其最新的开源成果——Qwen2.5-Turbo模型。这个版本的推出，其实是直接回应了社区里持续高涨的呼声：大家需要更长的上下文处理能力。经过几个月的精心打磨，现在，这个能力得到了前所未有的拓展。

那么，这次的提升到底有多大？Qwen2.5-Turbo直接将上下文长度从12.8万个tokens一举扩展到了惊人的100万个tokens。这么说可能有点抽象，我们换个通俗的比喻：这大约相当于100万英语单词，或者150万汉字的体量。具体点讲，它能一口气吞下10部完整的长篇小说，消化150小时的演讲稿，或者解析30000行代码。对于需要处理大量连贯信息的场景来说，这无疑打开了一扇新的大门。

（注：这里提到的“上下文长度”，在自然语言处理领域，特指大型语言模型单次处理时能够考虑和生成的文本最大长度，它是衡量模型“记忆力”和综合理解能力的关键指标。）

能力提升了，实际表现又如何？在专业的1M-token密码检索任务中，Qwen2.5-Turbo实现了100%的准确率。更值得注意的是，在综合性的RULER长文本评估中，它拿到了93.1的高分，这个成绩已经超越了GPT-4和GLM4-9B-1M等知名模型。数据不会说谎，这清楚地表明了其在长文本理解和推理上的强劲实力。

当然，光有容量还不够，处理速度才是决定体验的关键。如果处理百万级tokens要等上半天，那实用性就大打折扣了。通义千问团队显然深知这一点。他们通过引入稀疏注意力机制等关键技术，成功将处理100万tokens到输出第一个token的时间，从原先的4.9分钟大幅压缩到了仅仅68秒。速度提升高达4.3倍，这个进步让模型的响应效率产生了质变，使得处理长篇内容不再是“耐心测试”。

除了快，还得考虑用得起。在成本方面，Qwen2.5-Turbo保持了每百万tokens仅0.3元的处理成本。做个简单的对比：用同样的成本，它能处理的token数量是GPT-4o-mini的3.6倍。这意味着，在追求高效处理长上下文的需求中，它提供了一个极具经济竞争力的选择。高效与经济性兼得，这正是其核心优势所在。

不过，话说回来，技术在前进的路上总能看到更远的目标。团队也坦诚地指出，在更复杂多变的真实场景长序列任务中，模型的稳定性仍有提升空间。同时，大型模型的推理成本优化，也是一个需要持续投入的长期课题。这些都是通往更卓越之路上的明确路标。

因此，接下来的方向也很清晰：团队承诺将继续优化模型对人类偏好的对齐、进一步提升推理效率，并探索构建更强大的长上下文模型。技术的迭代，从来都是一场没有终点的马拉松。

附上参考地址：

• Qwen2.5-Turbo 官方介绍
• API 文档
• 在线演示

来源：互联网