Skip to content

接入 Multi-SWE-bench 多语言评测 #14

Open

Description

@rojim666

背景

现有评测方案以 Python 项目和 SWE-bench Lite 为主要起点,不能衡量 Java、TypeScript、Go、Rust、C/C++ 等任务上的跨语言泛化能力。

工作范围

  • 扩展评测适配器以运行 Multi-SWE-bench。
  • 按语言记录结果和资源消耗。
  • 输出跨语言能力差异及失败分类。
  • 确保评测运行具备隔离、超时和可复现性。

验收标准

  • 支持读取 Multi-SWE-bench 任务并输出标准补丁。
  • 首轮至少选择 3 种语言、每种不少于 20 个任务。
  • 记录各语言 pass rate、Token、耗时、工具失败率和重试次数。
  • 结果报告包含跨语言成功率方差和主要失败原因。
  • 每个任务在隔离工作区或容器中运行。
  • 固定模型、提示词、工具配置和依赖版本以支持复现。

依赖

  • 依赖 Coding Agent 自动化评测基线。
  • 建议在统一 LSP 接口完成后建立首个正式基线。
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions