## 背景 现有评测方案以 Python 项目和 SWE-bench Lite 为主要起点,不能衡量 Java、TypeScript、Go、Rust、C/C++ 等任务上的跨语言泛化能力。 ## 工作范围 - 扩展评测适配器以运行 Multi-SWE-bench。 - 按语言记录结果和资源消耗。 - 输出跨语言能力差异及失败分类。 - 确保评测运行具备隔离、超时和可复现性。 ## 验收标准 - [ ] 支持读取 Multi-SWE-bench 任务并输出标准补丁。 - [ ] 首轮至少选择 3 种语言、每种不少于 20 个任务。 - [ ] 记录各语言 pass rate、Token、耗时、工具失败率和重试次数。 - [ ] 结果报告包含跨语言成功率方差和主要失败原因。 - [ ] 每个任务在隔离工作区或容器中运行。 - [ ] 固定模型、提示词、工具配置和依赖版本以支持复现。 ## 依赖 - 依赖 Coding Agent 自动化评测基线。 - 建议在统一 LSP 接口完成后建立首个正式基线。
Activity