图片大家好,我是 ai 学习的老章最近工作非常繁忙,写一篇简短的文章分享三个我经常使用的 De
图片大家好,我是 ai 学习的老章
最近工作非常繁忙,写一篇简短的文章
分享三个我经常使用的 DeepSeek 模型DeepSeek-R1-0528-Qwen3-8B
这是最新版的 DeepSeek-R1-0528,通过思维链蒸馏提取后对 Qwen3-8B-Base 进行了训练:DeepSeek-R1-0528 蒸馏 Qwen3:8B 大模型,使用双 4090 显卡本地部署,效果非常好
这个模型有几个特点让我非常喜欢:
成本极低,模型文件大小仅 16GB,默认参数下,两张 4090 显卡即可流畅运行性能很强,无论是各种 Bench 测试结果还是个人体验,都能轻松应对参数和模型文件是其四倍大小的 Qwen32-B速度非常快,启动时两张 4090 显卡能达到 90Tonken/s目前 DeepSeek-R1-0528-Qwen3-8B 我主要用来做知识库意图识别、问题改写、问题分类
缺点:无法关闭思考功能,我用 vllm 启动,在 Dify 中即使直接关闭或者在提示词中加 no_think 都没用
DeepSeek-R1-0528R1 的小版本更新,但是提升明显,性能和推理能力都增强了不少:DeepSeek R1 最新版本模型,排名第三
这个模型应该算是可以免费使用的最强大的模型之一了吧
网页版我倒是很少用,主要是调 API 接口,主要用于 Obsidian 上查资料,翻译,写文章
图片以及在 Cursor 上写代码
图片缺点:响应速度较慢,在 Cursor 上写代码也不支持 Agent 模式
DeepSeek-V3-Fast近期发现的一个小众版本DeepSeek-V3-Fast,它是基于 DeepSeek V3 0324 版本优化后的极速版本
API 申请地址:
https://www.sophnet.com/#?code=IXFCAK
最大的优势就是推理速度,可以说是快如闪电⚡️
图片目前我主要把它用于 Obsidian 做内容总结,还有沉浸式插件中当翻译工具(确实非常快)
图片缺点是能力略逊于 R1,表现不太稳定
菜鸟下载发布此文仅为传递信息,不代表菜鸟下载认同其观点或证实其描述。
版权投诉请发邮件到 cn486com#outlook.com (把#改成@),我们会尽快处理
Copyright © 2019-2020 菜鸟下载(www.cn486.com).All Reserved | 备案号:湘ICP备2023003002号-8
本站资源均收集整理于互联网,其著作权归原作者所有,如有侵犯你的版权,请来信告知,我们将及时下架删除相应资源