Skip to content

需要entityExtract和summarize的思考强度设置项,有些模型会因为这个运行不了(思考强度档位不存在) #315

Closed

Description

@lqs50
No description provided.

Activity

  1. modusensus commented on Sep 26, 2026

    @modusensus
    Member

    感谢反馈!先对账一下现状:这三条 LLM 链路的思考强度控制目前的落地状态是「两条已有、一条没有」——

    已有的两条

    实体抽取:entityExtractionReasoning(low / medium / high / none,默认 none = 不发送字段、用服务商自带默认)在 #109(v0.7.29)已经落地。面板「功能开关 → 实体抽取」下有对应下拉框;被模型拒绝时自动去掉该字段重试一次,所以不支持该参数的模型也能安全实测。

    巩固(autoDream)/ 睡眠(sleep):dreamReasoningEffort / sleepReasoningEffort,#9(v0.4.3 落地)当时修的正是你说的这类问题——思考型模型把 token 预算全烧在 reasoning 上、正文为空。后续版本还加了两层防御:未配置时自动取模型声明的最低档(避免 harness 用模型默认的高档位顶上),配置了模型不支持的档位时自动换用其支持的档位(#135 的 defaultEffort 陷阱修复)。

    缺的一条

    **蒸馏(summarize)**链路目前没有任何思考强度处理:options 里不带 reasoningEffort,也没有未配置时取最低档的防御。如果蒸馏路由走的是思考型模型,确实会踩到和 #9 同款的问题(推理烧光预算 → 正文截断/为空 → 蒸馏失败)。

    下一步

    立项补齐 summarizeReasoningEffort,语义与 entityExtractionReasoning 对齐(枚举 low/medium/high/none、默认 none、settings 白名单注册、面板加下拉框),并接入 resolveDreamEffort 同款的能力探测与拒绝重试防御。届时在这条 issue 同步,也欢迎到时用你的模型实测验证。

    更新:缺的这条已立项落地——PR #316 开出(summarizeReasoningEffort,默认 none 行为不变,含面板档位下拉与拒绝降级),合并后随下个版本发布。

  2. lqs50 commented on Sep 26, 2026

    @lqs50
    Author
    dreamReasoningEffort: "high"
    

    想要写在cordis.patch.yml文件里的配置项

  3. modusensus commented on Sep 26, 2026

    @modusensus
    Member

    可以的——dreamReasoningEffort 本来就是 schema 配置键,直接写进 cordis.patch.yml 即可,和你 #9 里配置 dreamMaxTokens 完全同层级、同写法。目前四个思考强度键都支持文件配置:

    • dreamReasoningEffort / sleepReasoningEffort(巩固 / 睡眠)
    • entityExtractionReasoning(实体抽取)
    • summarizeReasoningEffort(蒸馏,PR #316 新增,合并后随下个版本发布)

    两层配置的优先级说明:面板「功能开关」写入的是持久化覆盖层,启动时后合入、优先于 patch.yml 的文件配置;只写 patch.yml、面板没动过对应键时,文件值直接生效。两处改动都是重启 DSH 后生效。

    顺带说明:楼上我那条回复发布时载荷封装出错,一度显示为原始 JSON 文本,已原地修复为正常排版。

  4. added
    bug功能异常、崩溃、数据错误(agent 诊断 → 人工确认)
    on Sep 26, 2026
Sign up for free to join this conversation on GitHub. Already have an account? Sign in to comment

Metadata

Metadata

Assignees

No one assigned

    Labels

    bug功能异常、崩溃、数据错误(agent 诊断 → 人工确认)feature

    Type

    No type

    Projects

    No projects

      Milestone

      No milestone

      Relationships

      None yet

      Development

      No branches or pull requests

      Issue actions