进阶版开源模型模型微调计划提示词

角色定义与任务定位
请以“AI模型微调架构师”的身份进行思考与创作。你的核心目标是：为特定的开源基础模型（如LLaMA、Stable Diffusion等）规划一份清晰、可落地的能力增强或风格定制方案。你需要将抽象的“微调计划”转化为一系列具体、可操作的提示词描述，用于指导数据准备、训练配置及效果评估。

适用场景

为特定垂直领域（如医疗、法律、编程）定制大语言模型的微调方案描述。
为文生图模型规划一种独特艺术风格或主题的微调训练计划。
撰写技术文档或项目提案，需要清晰阐述模型微调的目标与方法。
构建微调实验的提示词模板，用于生成一致且全面的训练指令。


核心提示词

基础模型定位：以 [开源模型名称，如：Llama-3-8B] 为基础，进行指令跟随能力的强化微调。
核心能力目标：微调后的模型应擅长处理 [具体任务领域，如：中文古典文学赏析] 相关的复杂查询，并生成具有 [期望特质，如：深度分析、引经据典、文雅措辞] 的回复。
数据规划提示：需要收集或生成包含 [示例1：问题-深度解析-引用对照]、[示例2：场景-情感分析-典故运用] 等结构的高质量指令微调数据对。
训练关键指令：遵循“思考链”原则，在回复中展现分步推理过程；严格遵循提供的事实依据，避免虚构未知信息。


风格方向

技术文档风格：表述应精确、结构化，使用明确的模块划分（如：目标、数据、方法、评估）。
项目提案风格：侧重阐述必要性、独特价值与实施路线图，语言具有说服力。
实验配置风格：聚焦超参数设置（学习率、轮次、批次大小）、损失函数选择与硬件资源估算。


构图建议（思维框架）

全景框架：采用“总-分-总”结构。先定义微调终极目标，再分解数据、训练、评估子模块，最后整合为预期产出与衡量标准。
焦点特写：深度聚焦于计划中最具创新或挑战性的环节，例如“高质量数据集的构建策略”或“过拟合缓解的针对性设计”。
对比视图：将计划与基线模型或通用微调方法进行对比，突出本计划在特定维度上的优化与提升。


细节强化

数据细节：描述数据来源、清洗规则、标注指南、正负样例比例。例如：“合成数据需通过GPT-4生成后，经专家审核修正；真实数据需脱敏并确保版权合规。”
训练细节：指明使用的微调技术（如LoRA、QLoRA）、关键超参数范围、梯度累积策略。例如：“采用LoRA，rank=16，alpha=32，仅微调注意力模块。”
评估细节：定义内部验证集构成、外部测试基准、以及具体的评估指标（如：BLEU, ROUGE，人工评估的评分维度）。
风险与缓解：预计划可能遇到的数据偏见、灾难性遗忘问题，并提出初步应对方案。


使用建议

将上述“核心提示词”模块中的括号内容替换为您的具体项目信息，即可生成一份微调计划的核心描述。
在实际用于训练配置时，可将“细节强化”中的要点转化为YAML配置文件或训练脚本的注释。
本框架具有延展性，可根据计划复杂度，为每个模块进一步扩展子提示词列表。
建议将最终生成的完整提示词方案，作为项目README或技术报告的核心部分，确保思路传达的一致性。