Skip to content

Commit 22d18ce

Browse files
committed
fix(sleep): 冲突台账预筛前移到去重之前、update 额度跨批累计、未落地对不记账(#536 评审)
CodeRabbit 在 PR #536 上提的三条,逐条修: ① 台账预筛原先排在 used 去重之后——先按相似度占位、再把已审对摘掉, 于是一条已审的记忆会占住自己的配对名额,它真正的对手进不了这一轮。 预筛前移到去重之前;跨 scope 对不筛(要停车进人工队列)、freeze 档不筛, ledgerSkipped 一次数清,后面不再二次过滤。 ② reflectionUpdateMaxPerRun 分批后退化成每批上限——校验器不跨批记忆, N 批就是 N 倍上限。额度改由分批循环持有,每批只领剩余额度,按本批 通过校验的 update 数扣减;额度耗尽那批若还含 update 被整单拒绝记 failed, 其余批照常继续。 ③ 台账会把没落地的裁决记成已审:原实现对整批无条件记账且 judged_at 取落地 之后,failures/conflicts(CAS)/skipped 里那些没生效的对、以及 LLM 往返期间 被外部改动的对,下一轮都被 alreadyJudged 判成已审而永久压制。现在 judged_at 取发送本批之前的时刻,且本批 failures/conflicts/skipped 里出现过的 id 其所在对不记账。 回归测试 +3(去重前预筛 / 跨批 update 额度 / 未落地对不记账), docs/SLEEP.md 算法 9 步扩到 10 步并补三处边界,CHANGELOG 补评审段。
1 parent f8c8dd4 commit 22d18ce

5 files changed

Lines changed: 238 additions & 86 deletions

File tree

‎dsh-mneme/CHANGELOG.md‎

Lines changed: 1 addition & 1 deletion
Original file line numberDiff line numberDiff line change
@@ -26,7 +26,7 @@
2626

2727
- **`differentiate` 是个正反馈闭环:两侧各追加同一段注记 → 向量同向靠拢 → 下一轮又被判成重复 → 再追加一段,实测单条堆 19 段、正文 150 字膨胀到 2200+ 字(#533,报告与实测由 @xueyue33 提供)**:`sleepActionSet: "full"` 会把跨类型也可能相似的记忆对补进候选(`src/dream/sleep.js`),而 full 档的裁决集里有一条 `differentiate`——它的本意是「两条都留,但让模型标出各自覆盖的不同侧面,好让后续别再判成重复」。旧实现的做法是**把同一段「差异注记」同时追加到两侧正文**,注释写着理由:「注记进正文 → 进注入与 embedding → 下一轮不会再被判成重复(这是本动作存在的意义)」。报告者的现场把这半句推翻了:37 轮 sleep 之后 175 条被动过,活跃的 110 条里 100 条被重复追加 ≥2 段,最狠的一条 19 段。**根因不在「注记写太长」,而在「两侧共享同一段文本」**——离线复现(`node:sqlite` 内存库 + 真实 `src/`,不联网不调 LLM)把注记从 200 字逐级截到 0 字,只留那个固定前缀:200/40/20 字 → 余弦 0.913→0.949→0.968→0.979→0.985;10 字 → 0.905→…→0.981;4 字 → 0.891→…→0.972;**0 字 → 0.876→0.903→0.928→0.947→0.960**。给一侧追加时余弦是往下走的(0.823→0.732→0.658→0.604→0.564),旁路记账不进正文时恒定 0.861。所以「把注记写短一点」这条路根本不存在——只要两侧共享同一段后缀,向量就同向靠拢,真模型只改幅度不改方向。第二个放大器是幂等判据:旧守卫是 `String(content).includes(marker)`,`marker` 是整段 `(差异注记:${notes.join(";")})` 的字面量,模型只要换一种说法(语序、加「的」、同义替换),`includes` 就失效,同一对再判一次、再追加一段——这正是单条堆到 19 段的成因。改法三条,**核心是「differentiate 不再改写正文」**:① `applyDifferentiate` 只落账本不动正文。新增表 `differentiated_pairs`(`memory_a` / `memory_b` 排序归一后唯一 + 两侧当时的 `content_hash` + 模型给的 `distinctions` + `run_id` + `created_at`),正文一个字节都不改;字面 `includes` 幂等随注记一起退场。② 幂等改成**结构化**三层:任一侧已归档 → `skipped`;两侧正文仍带旧注记块(存量库兼容)→ `skipped`;账本里有这一对且两侧 `content_hash` 与记账时一致 → `skipped`。任一侧被改写(hash 变了)就重新进候选——宁可再判一次,也不静音真实演化。③ 抑制做在**候选构造阶段**而不是裁决阶段:`phaseConflicts` 拿到对之后先查账本,已裁决且正文未变就从候选里压掉,**不送 LLM**;被压掉几对记在 `phase.suppressed`,与「一对都没检测到」(`no conflicts found`)分开报——不记的话 `pairs` 变小就分不清是没检测到还是已裁决。**几个刻意的取舍**:(a) **不新建动作、不加配置开关**——`differentiate` 的语义(两条都留、标出差异)不变,变的只是它的落点从正文挪到账本,所以校验器、提示词、`ACTIONS` 白名单、receipt 全部不用动;开关则是多一个键就要多一份白名单 + schema + 旗标计数锁,而默认关 = 默认留着那个闭环。(b) **不清理存量注记**:升级后老库里那些已带注记块的行按「已裁决」处理(第二层幂等),把注记从正文里抠掉是不可逆的内容改写,而它此刻只是历史痕迹、不再产生新副作用。(c) **`distinctions` 仍然必填**:它是「模型确实做过分类」的唯一凭据,空数组 = 模型偷懒只输出动作名,不该被记成已裁决。(d) **裸 service 路径降级成 `skipped` 而不是抛错**:人工确认路径(`src/service.js` 的 `applyService`)没有账本透传,那里没有可落账的地方,「正文不变」本身就是全部副作用,报 applied 会是假账。(e) **向量不再重嵌**:`maintainIndexAfterDream` 的 `differentiate` 分支清空——正文没变就没有要重算的东西,顺手省掉一轮 embed 预算。**回归测试 +11**(新增 `test/differentiate-feedback.test.js` 7 条 + `test/store.test.js` 1 条持久化 + 改写 `test/sleep-action-set.test.js` 3 条):五轮措辞漂移下正文逐字节不变、账本只有一行、正文不变时保留原 `distinctions`、一侧改写后重新 `applied=1` 且结论被刷新、存量注记行判已裁决、裸 service 不抛错、第二轮 sleep 的冲突阶段 `status: noop` + `suppressed: 1` + **零 LLM 调用**、被改写后第三次循环重新送模型、审计行把 `suppressed` 与 `no conflicts found` 分开报。`docs/SLEEP.md` 的 `conflict_resolution` 算法从 4 步扩到 5 步并补了一条「differentiate 不改正文」的说明(带上面那组余弦数字,免得后人再把注记写回正文)。
2828

29-
- **sleep 的冲突相位在输入侧没有任何预算:全部候选对一次塞进一个 prompt、判 `keep` 不留痕,单请求实测 163,054 token(整池 163,840),失败后按冷却重排同一输入(#529,报告与实测由 @chengxinshengglj-png 提供)**:报告者的现场是一台 `sleepActionSet` 默认档的库——`sleep_conflict` 审计 131 行(46 success / 85 error),`input_tokens` 峰值 163,054,而服务端 `--ctx-size` 是 163,840(**占 99.5%**),`pairs` 443–449 而单轮 `applied` 只有 3–7;10-26 12:55 到 10-29 11:11 连续 **23 轮 llm failed**,`conflict_pending` 堆到 841 行。三件事互相咬合,缺一条都治不好:**①** 输入侧根本没有预算——`samePairs` 是**全部**同 scope 相似对,`listText` 一次拼完,模型只能看到前几对就撞上下文;**②** 判 `keep` 是彻底的 no-op(`applyDecisions` 只往进程内 `committed` 里 push 一下,不写任何东西),于是下一轮候选池逐字节相同、同一对每个冷却周期被重新问一遍;**③** 失败轮不带 `pairs`——131 行审计里 85 条 error 全是「送了个寂寞」,事后连送了多少对都查不到。四处一起补:**A 候选预算**:新增 `sleepConflictMaxPairs`(每批上限,默认 12)与 `sleepConflictMaxPairsPerRun`(每轮总量上限,默认 60),两者都 0 = 不限、回退旧行为;分批之后每批独立一次 LLM 往返 + 独立 `validateDecisions`/`applyDecisions`,**坏批只让这一批失败并计入 `degraded`,其余批照常落地**,只有一批都没成功才整轮 `failed`——此前任何一处理由(撞上下文、输出截断、JSON 坏掉)都是整轮失败。**B 裁决留痕**:新增表 `conflict_reviewed`(`memory_a`/`memory_b`/`judged_at`/`outcome`/`run_id`,`PRIMARY KEY (memory_a, memory_b)`)记「这段输入被看过」,`pair` 按字典序归一化 + `ON CONFLICT DO UPDATE` 幂等;预筛按「两侧 `updated_at` 都不晚于 `judged_at`」剔出候选池,任一字段更新即重新入池(与 `conflict_pending` 复核项 4 同一条宽松代理)。记账位置在每批 `validateDecisions` 之后,对本批**全部送审对**统一记、不只记被裁决成冲突的那几对——判 `keep` 的正是下一轮重复送审的元凶。**刻意不复用 `conflict_pending`**:那张表是人工待裁决队列,面板徽标数就是 `countConflictPending()`(`resolved_at IS NULL` 的行数),机器每判一对写一行会把这个数字淹掉,人就再也看不出「有哪些待我裁决」;台账零界面,不进 `listConflictPending`。**记账也不写进 `applyDecisions`**:那个函数 dream 与 sleep 共用,写进去会污染日间路径。**C 续排与退避**:新增 opt-in 的 `sleepFailureBackoff`(默认关),有效间隔 = `sleepMinIntervalHours` × 2^连败数、成功清零、封顶 24h。**原提案的 `snapshot_hash` 判据用不了**:`runSleep` 里那个 `snapshotHash` 是 `createHash("sha256").update(JSON.stringify(phases))`——跑完之后对**结果**算的哈希,不是输入快照,拿它判「同一份输入又失败」会把不同的结果认成不同的输入;改用连续失败计数,与 `autoDream` 的失败退避(#292)同构。判据看 `status === "failed"` 而不是 `!ok`:`noop`(LLM 通路正常、只是没活干)与用户活动打断都给 `ok:false`,当失败会让退避在自己工作良好的库里越退越长。`armNextWindow()` 排下一次闹钟必须与 `shouldRun()` 用同一个函数——否则退避期闹钟会在基数到点响、被否、再重排,白转一轮。**D 审计补字段**:失败轮同样返回 `pairs`/`batches`(另加 `ledgerSkipped`/`perRunSkipped` 两个读数),失败批的 stream 层原文(`describeStreamFailure` 的 abort/error)进 `logger.warn`——只写 `llm failed` 的话运维分不清是上下文超限、模型拒收还是用户活动打断。**顺带修掉一个同类的谎**:分批之后「批间被用户活动打断」原本会落进 `noop`,而 `noop` 的语义是"看过、没冲突"——被打断的那几批根本没送出去。相位层改用 `aborted`(与入口处"一开始就 aborted"同一个词),`deriveStatus` 也补认它,否则整轮层会把相位层的 `aborted` 静默折回 `noop`,审计行照样记成"跑过、没什么事"。**报告者本地打了三键之后的效果**:单请求 806–2,011 token、连续失败 23 轮 → 0 轮、每轮台账跳过 32–53 对。**刻意不加 `sleepMinIntervalMinutes`**:`sleepMinIntervalHours` 早就在(`z.natural().min(1).max(168).default(8)`),再做一个「传 0 则回退小时键」的分钟键,面板上会出现两个都叫「最小间隔」的调节项。**不在本批**:报告者那 79 条 `input_tokens = 0` 的审计行属 #104 / #250 的传输族(流以错误结束、根本没有用量),与本条的输入预算无关,另账。回归测试 +16(`test/sleep.test.js` 6 条:分批上限、坏批只 degraded、判 `keep` 留痕且不重送 + 改一侧后重送、每轮总上限、**批间被用户活动打断时报 `aborted` 而不是 `noop`**(`noop` 的语义是「看过、没冲突」,而被打断的批根本没送出去)、失败轮仍带 `pairs`/`batches`;`test/conflict-reviewed.test.js` 4 条:键归一化、重复记账是 upsert、**记账不进人工队列**、按 `judged_at` 倒序;`test/sleep-failure-backoff.test.js` 6 条:默认关不翻倍、连败指数推迟、成功清零、封顶 24h、**noop 不算失败**、抛错也计入),每条都做过变异自证。
29+
- **sleep 的冲突相位在输入侧没有任何预算:全部候选对一次塞进一个 prompt、判 `keep` 不留痕,单请求实测 163,054 token(整池 163,840),失败后按冷却重排同一输入(#529,报告与实测由 @chengxinshengglj-png 提供)**:报告者的现场是一台 `sleepActionSet` 默认档的库——`sleep_conflict` 审计 131 行(46 success / 85 error),`input_tokens` 峰值 163,054,而服务端 `--ctx-size` 是 163,840(**占 99.5%**),`pairs` 443–449 而单轮 `applied` 只有 3–7;10-26 12:55 到 10-29 11:11 连续 **23 轮 llm failed**,`conflict_pending` 堆到 841 行。三件事互相咬合,缺一条都治不好:**①** 输入侧根本没有预算——`samePairs` 是**全部**同 scope 相似对,`listText` 一次拼完,模型只能看到前几对就撞上下文;**②** 判 `keep` 是彻底的 no-op(`applyDecisions` 只往进程内 `committed` 里 push 一下,不写任何东西),于是下一轮候选池逐字节相同、同一对每个冷却周期被重新问一遍;**③** 失败轮不带 `pairs`——131 行审计里 85 条 error 全是「送了个寂寞」,事后连送了多少对都查不到。四处一起补:**A 候选预算**:新增 `sleepConflictMaxPairs`(每批上限,默认 12)与 `sleepConflictMaxPairsPerRun`(每轮总量上限,默认 60),两者都 0 = 不限、回退旧行为;分批之后每批独立一次 LLM 往返 + 独立 `validateDecisions`/`applyDecisions`,**坏批只让这一批失败并计入 `degraded`,其余批照常落地**,只有一批都没成功才整轮 `failed`——此前任何一处理由(撞上下文、输出截断、JSON 坏掉)都是整轮失败。**B 裁决留痕**:新增表 `conflict_reviewed`(`memory_a`/`memory_b`/`judged_at`/`outcome`/`run_id`,`PRIMARY KEY (memory_a, memory_b)`)记「这段输入被看过」,`pair` 按字典序归一化 + `ON CONFLICT DO UPDATE` 幂等;预筛按「两侧 `updated_at` 都不晚于 `judged_at`」剔出候选池,任一字段更新即重新入池(与 `conflict_pending` 复核项 4 同一条宽松代理)。记账位置在每批 `validateDecisions` 之后,对本批**全部送审对**统一记、不只记被裁决成冲突的那几对——判 `keep` 的正是下一轮重复送审的元凶。**刻意不复用 `conflict_pending`**:那张表是人工待裁决队列,面板徽标数就是 `countConflictPending()`(`resolved_at IS NULL` 的行数),机器每判一对写一行会把这个数字淹掉,人就再也看不出「有哪些待我裁决」;台账零界面,不进 `listConflictPending`。**记账也不写进 `applyDecisions`**:那个函数 dream 与 sleep 共用,写进去会污染日间路径。**C 续排与退避**:新增 opt-in 的 `sleepFailureBackoff`(默认关),有效间隔 = `sleepMinIntervalHours` × 2^连败数、成功清零、封顶 24h。**原提案的 `snapshot_hash` 判据用不了**:`runSleep` 里那个 `snapshotHash` 是 `createHash("sha256").update(JSON.stringify(phases))`——跑完之后对**结果**算的哈希,不是输入快照,拿它判「同一份输入又失败」会把不同的结果认成不同的输入;改用连续失败计数,与 `autoDream` 的失败退避(#292)同构。判据看 `status === "failed"` 而不是 `!ok`:`noop`(LLM 通路正常、只是没活干)与用户活动打断都给 `ok:false`,当失败会让退避在自己工作良好的库里越退越长。`armNextWindow()` 排下一次闹钟必须与 `shouldRun()` 用同一个函数——否则退避期闹钟会在基数到点响、被否、再重排,白转一轮。**D 审计补字段**:失败轮同样返回 `pairs`/`batches`(另加 `ledgerSkipped`/`perRunSkipped` 两个读数),失败批的 stream 层原文(`describeStreamFailure` 的 abort/error)进 `logger.warn`——只写 `llm failed` 的话运维分不清是上下文超限、模型拒收还是用户活动打断。**顺带修掉一个同类的谎**:分批之后「批间被用户活动打断」原本会落进 `noop`,而 `noop` 的语义是"看过、没冲突"——被打断的那几批根本没送出去。相位层改用 `aborted`(与入口处"一开始就 aborted"同一个词),`deriveStatus` 也补认它,否则整轮层会把相位层的 `aborted` 静默折回 `noop`,审计行照样记成"跑过、没什么事"。**报告者本地打了三键之后的效果**:单请求 806–2,011 token、连续失败 23 轮 → 0 轮、每轮台账跳过 32–53 对。**刻意不加 `sleepMinIntervalMinutes`**:`sleepMinIntervalHours` 早就在(`z.natural().min(1).max(168).default(8)`),再做一个「传 0 则回退小时键」的分钟键,面板上会出现两个都叫「最小间隔」的调节项。**不在本批**:报告者那 79 条 `input_tokens = 0` 的审计行属 #104 / #250 的传输族(流以错误结束、根本没有用量),与本条的输入预算无关,另账。回归测试 +16(`test/sleep.test.js` 6 条:分批上限、坏批只 degraded、判 `keep` 留痕且不重送 + 改一侧后重送、每轮总上限、**批间被用户活动打断时报 `aborted` 而不是 `noop`**(`noop` 的语义是「看过、没冲突」,而被打断的批根本没送出去)、失败轮仍带 `pairs`/`batches`;`test/conflict-reviewed.test.js` 4 条:键归一化、重复记账是 upsert、**记账不进人工队列**、按 `judged_at` 倒序;`test/sleep-failure-backoff.test.js` 6 条:默认关不翻倍、连败指数推迟、成功清零、封顶 24h、**noop 不算失败**、抛错也计入),每条都做过变异自证。**评审补三处(CodeRabbit)**:① **台账预筛原先排在去重之后**——先按相似度占位、再把已审对摘掉,于是一条已审的记忆会把自己的配对名额占住,而它真正的对手(另一条没审过的记忆)因此进不了这一轮;现在预筛前移到去重之前,跨 scope 对不筛(它们要停车进人工队列)、`conflictFreezeEnabled` 档不筛(那一档只停车不送 LLM),`ledgerSkipped` 一次数清不再二次过滤。② **`reflectionUpdateMaxPerRun` 分批后退化成每批上限**——校验器不跨批记忆,N 批就是 N 倍上限;改为额度由分批循环持有、每批只领剩余额度、按本批**通过校验的** `update` 数扣减(`validateDecisions` 已把非法条目就地 splice 掉,数到的都真会落地),额度耗尽的那批若还含 `update` 被整单拒绝记 `failed`,其余批继续。③ **台账会把没落地的裁决记成已审**——原实现对整批送审对无条件记账且 `judged_at` 取落地之后,于是 `failures`/`conflicts`(CAS)/`skipped` 里那些没生效的对、以及 LLM 往返期间被外部改动的对,下一轮都会被 `alreadyJudged` 判成已审而永久压制;现在 `judged_at` 取**发送本批之前**的时刻,且本批 `failures`/`conflicts`/`skipped` 里出现过的 id,其所在对不记账。回归测试 +3(去重前预筛、跨批 update 额度、未落地对不记账),三条都做过变异自证。
3030

3131
## 🔒 安全
3232

0 commit comments

Comments
 (0)