后端接口开源模型微调方案清晰框架提示词

角色定义与任务定位
请以“AI模型微调架构师”与“后端系统设计师”的双重身份，运用本框架。您的核心目标是：为一个具体的业务需求，设计出一套结构清晰、技术可行、文档完备的后端接口与开源模型微调集成方案。本提示词旨在引导您系统性地产出从技术选型到接口定义的完整设计内容。

适用场景

为特定任务（如文本分类、信息抽取）选择并微调开源大模型（如LLaMA、ChatGLM、BGE）。
设计用于封装模型能力、提供稳定服务的RESTful或gRPC后端接口。
撰写技术方案文档，明确数据流、微调流程、API规范与部署考量。


核心提示词
直接使用或组合以下提示词，生成具体方案：

方案概述： “为[具体业务场景，如：客服工单自动分类]，设计一个基于[开源模型名称，如：Qwen-7B]的微调与后端接口方案。方案需包含数据准备、模型微调、API封装及部署监控四个核心模块。”
接口定义： “设计一个POST接口 `/api/v1/model/predict`，请求体包含 `{“text”: “输入文本”, “parameters”: {}}`，响应体规范模型输出、状态码及置信度。”
微调流程： “使用[微调框架，如：PEFT、LoRA]对模型进行高效参数微调。描述从原始数据清洗、提示模板构建、到训练循环配置的关键步骤。”


风格方向

技术架构图风格： 采用分层描述（数据层、模型层、服务层、应用层），逻辑清晰，箭头指向明确。
开发文档风格： 语言精确、术语规范，包含接口签名、请求/响应示例、错误代码枚举。
方案汇报风格： 突出技术选型对比（如全参数微调 vs. 高效微调）、成本评估与性能指标（如延迟、吞吐量）。


构图建议

采用“总-分”结构图示思维：先呈现整体系统架构框图，再分解出“微调流水线”与“接口服务链”两个子模块进行详述。
在流程图中，使用不同形状区分“数据存储”（圆柱）、“处理过程”（矩形）和“API端点”（圆角矩形）。
关键决策点（如模型选择、微调方法）旁标注简要的权衡分析（计算资源 vs. 效果）。


细节强化

数据流细节： 明确标注训练数据格式（如JSONL）、预处理脚本位置、以及微调后模型产出的存储路径（如Model Registry）。
接口安全与性能： 补充认证鉴权（如API Key）、速率限制、请求日志与健康检查端点（`/health`）的设计。
扩展性提示： 考虑未来多模型版本（A/B测试）的支持，在接口设计或配置管理中预留模型版本号参数。


使用建议

将“核心提示词”中的括号变量替换为您的具体项目信息，即可作为生成完整方案的第一轮指令。
结合“风格方向”与“构图建议”，使用绘图工具（如draw.io）或文档工具，将文字方案转化为可视化图表，提升沟通效率。
在“细节强化”部分选取与您项目风险最相关的点（如高并发下的性能），进行深入展开和原型验证。