建立基于执行轨迹和人工反馈的受控优化数据集 #19

背景

“自我进化”需要建立在可审计、可复现的数据和离线评测之上。直接根据在线结果自动修改策略或模型存在数据污染、奖励投机、安全回归和不可追责风险。

工作范围

• 从执行 Trace、测试结果、安全 Finding 和人工反馈构建训练及评测样本。
• 定义数据脱敏、质量筛选、版本和血缘规则。
• 设计仅在离线或受控环境运行的策略优化流程。
• 建立候选策略与稳定基线的回归门禁。

验收标准

• 定义任务、轨迹、工具调用、结果、人工反馈和奖励信号数据模型。
• API Key、个人信息和仓库敏感数据在入集前完成脱敏。
• 每条样本可追溯到模型、提示词、工具版本和评测环境。
• 低质量、失败归因不明确和疑似数据污染样本能够隔离。
• 支持将代码质量、测试、安全、性能、成本和人工修改量组合为多维信号。
• 候选策略必须通过固定回归集，失败时不得进入默认配置。
• 默认禁止无审核的线上持续学习和自动更新生产策略。
• 输出首版数据集卡和一次基线优化实验报告。

依赖

• 依赖自动化评测、统一 Trace 和多智能体工作流。
• 该 Issue 属于第三阶段研究，不应阻塞近期工程能力建设。