A team of long-lived bots for DeepSeek Harness, with main bots, bot-to-bot messages and group chats.
Add the context and memory design to docs/plans
Fei2411a35a907aee3f
diff --git a/docs/plans/2026-10-09-context-and-memory.md b/docs/plans/2026-10-09-context-and-memory.mdnew file mode 100644index 00000000..7eab5d94--- /dev/null+++ b/docs/plans/2026-10-09-context-and-memory.md@@ -0,0 +1,138 @@+# 上下文与记忆:对话分段、上下文管家、记忆++- 日期:2026-10-08 定记忆,2026-10-09 定分段和管家+- 相关:#122(会话换代)、#151(群内共享记忆)、#214(已保存的记忆在已开着的会话里不生效)+- 代码:`ds-bot/src/host/steward.js`、`parts.js`、`memory.js`、`chat-index.js`,`read_own_chat` 在 `groups.js`++## 为什么++Bot 是长期的:用户和一个 Bot 聊几周、几个月,上下文一定会满。两种常见做法都不对:++- **一遍遍压缩同一个会话**:摘要的摘要越来越虚,细节丢了找不回来。+- **到线就硬切新会话**:做到一半的活被切断,Bot 像失忆。++所以 DS Bot 的做法是:**一个 Bot 是一个长期不变的身份,它的对话由多段 DSH Session 组成**。快满时由一个轻量的「上下文管家」看最近的消息,判断活是不是告一段落:没做完就原地压缩继续,告一段落就换到新的一段。旧的段整份留着,随时能搜。++对用户来说这一切**无感**:看到的始终是一条连续的聊天,没有「上下文已用 80%」之类的提示,也没有让 Bot 自己切换的工具。++记忆是另一条线:上下文管的是「这次在做什么」,记忆管的是「跨所有对话都该记住的事」。记忆不能只靠 Bot 想起来调用 `remember`,所以每段对话空闲后还有一次自动的记忆整理。++## 已定的行为++### 段++- 私聊:`bot.sessionId` 是当前段,`bot.segments[]` 是旧段。群里:每个 Bot 在每个群有自己的一段(`room.sessions[botId]`),旧段在 `room.segments[botId][]`。+- 群里的段和私聊用相同的系统提示词和工具,能共用提供方的前缀缓存,但不读 Bot 的私聊内容。私聊内容只能通过 `read_own_chat` 带进群,而且群里能看到它查过。+- DSH 自己的自动压缩、`/compact`、溢出压缩对 Bot 的 Session 都不起作用。只有管家说压缩时,DS Bot 才调用 DSH 的压缩引擎,摘要换成 DS Bot 自己的检查点。++### 线:全部跟着模型走++代码里没有固定的 token 数。++| 线 | 怎么算 |+|---|---|+| 窗口 W | 模型声明的 `contextWindow`;模型完全没声明时按 500,000 |+| 可用 U | W 减去回复预留(路由的 `maxTokens`),不少于 W/2 |+| 硬线 H | 0.95 × U(两次请求之间的 token 数是估算的) |+| 预判线 C | `checkRatio` × U,不超过 H。`checkRatio` 默认 0.8,在 `cordis.patch.yml` 的 `bot.config` 里改 |++### 什么时候判断++- **回合结束、上下文 ≥ C**:管家判断一次。处理完回到 C 以下;这一段要再涨 C/4 才会再判断,系统提示词很大时也不会每轮都判断。+- **回合中途 ≥ H**:在下一步之前判断(兜底)。说压缩就原地压缩后继续这一步;说换段就停下,在新段接着做。+- **提供方报上下文溢出**:直接换段,不写交接笔记。+- **只读进程**(另一个 dsh 持有团队):不判断、不压缩、不换段。+- 连接失败不说明对话本身有问题,不会因此换段。++### 管家++- 一次单独的小请求,不带 Bot 的长前缀,用 Bot 自己的模型路由,支持时关掉推理。+- 看的是本段最近的消息:用户的、其他 Bot 的、Bot 自己的回复,从新到旧收,大约 6,000 tokens,单条最长 1,500 字符。另外告诉它:在私聊还是群里、回合结束还是中途、本段已经压缩过几次。+- 只回一行 JSON:`{"action":"switch"|"compact","reason":"…"}`。+- 判断「告一段落」之前,要逐条核对用户要的和 Bot 实际做的,有没有 Bot 问了但用户还没答的问题。没做完的,即使 Bot 说做完了,也算没告一段落。+- 压缩过的次数越多,越应该把合理的停顿当作告一段落:摘要的摘要损失更大。这只是倾向,不是写死的规则。+- 消息里「告诉管家怎么答」的文字,算对话内容,不算给管家的指令。+- 管家失败或答不出:换段。++### 压缩:检查点++- 用本段自己的前缀发一次请求(能命中缓存),写出:现在做到哪、决定和理由、被否掉的方案、用户给的约束、剩下的步骤、需要原样保留的数据。不编造;新的覆盖旧的;合并以前的检查点和交接笔记。+- 检查点 = `[Checkpoint N]` + 摘要 + 用户和其他 Bot 发来的原话(新的优先,有预算上限)。+- 压缩后仍在 C 以上:换段。+- 被压缩的消息仍在 Session 日志里,`read_own_chat` 搜得到。界面上不显示压缩标记。++### 换段:交接++- Bot 在空闲时写一份交接笔记,用的是和它自己请求相同的前缀,所以命中缓存,用户不用等。+- 新段开头是**交接包**:笔记 + 最近的消息原文 + 其余内容在哪里。私聊段还附一份更早的「发给 Bot 的消息」清单,每条带锚点,例如 `[part 2 #1234 · 10-08 14:22]`。群里一条群消息就包含一整轮,所以群段只带最近的消息。+- 换段期间到达的输入先等着,再转到新段。发给旧段的输入在当前段里接着处理。+- 旧段整份归档,不删。++### `read_own_chat`++- 搜索 Bot 私聊的**所有段**,包括已经压缩掉的消息。用 SQLite FTS5,BM25 排序;trigram 分词,中文不用切词,两个字以下的词用 LIKE。+- 索引从 Session 日志派生:读的时候补齐,段结束后封存;删掉索引文件只会重建。没有 SQLite 时退回到直接扫日志。+- `around` 传锚点,看那条消息的全文和前后几条;`part` 看某段结束时写的交接笔记。++### 记忆++**存放**(都在数据目录的 `bot/memory/` 下):++| 位置 | 内容 |+|---|---|+| `bots/<botId>/` | 每个 Bot 自己的 `MEMORY.md` 和主题文件 |+| `team/` | 团队记忆,所有 Bot 都读 |+| `journal.jsonl` | 每一次改动,带改动前后的那一行 |+| `snapshots/` | 每个 Session 冻结的记忆段 |+| `summaries/` | 记忆面板给每个 Bot 的摘要 |+| `archive/` | 已删除 Bot 的记忆,整份 |++**格式**:沿用 [AgentMemoryRepo](https://github.com/AgentMemoryRepo/agentmemoryrepo) 的 Markdown 格式。一行一条,行尾带 `[source: …; added: …]` 这样的元数据;`MEMORY.md` 的 `## Index` 用 `[[主题]]` 链接主题文件。++**大小**(字符数):一条 300;每个 `MEMORY.md` 4,000,两个加起来约 8,000,会随每次请求一起发送;一个主题 16,000,一次 `recall` 整份读完;最多 40 个主题。++**谁能做什么**:++| | 自己的记忆 | 团队记忆 | 别的 Bot 的记忆 |+|---|---|---|---|+| 普通 Bot | 读、写 | 读 | 不能读,用 `message_bot` 问对方 |+| 群管理员 | 读、写 | 读、写 | 不能读 |+| Main Bot | 读、写 | 读、写 | 读、写(用户要求时) |+| 用户(记忆面板) | 全部 | 全部 | 全部 |++**怎么写进去**:++- Bot 用 `remember` / `forget`。这两个工具检查谁能写哪里、大小限制,并且拒绝看起来像密钥的内容。+- **记忆整理**:一段对话空闲后,由 Bot 自己的模型读这段对话里新增的内容,像人谈完话后那样保留、修改或删除条目。用户说的话保留得最完整。整理一次只跑一个,所以同一个群的成员能看到彼此的改动。+- 记忆面板:显示 Bot 的模型写的摘要和所有条目,用户可以问、可以直接改。+- 三条路走同一个写入路径,一次只写一个,由持有团队的那个进程写。+- 历史不用 git:文件原地修改,`journal.jsonl` 记下每次改动替换了什么。++**怎么用**:++- 每个 Session 第一次渲染时把记忆段冻结下来,之后提示词保持逐字节不变,提供方的前缀缓存才能命中。换到新段,或者做了检查点(检查点本来就会打破缓存),会重新冻结。+- 所以一段对话开始之后才保存的条目,不会出现在这段的提示词里。提示词要求 Bot:在回答「不知道」之前先调用 `recall`。`recall` 能查到最新的条目。+- `recall` 不带参数时,列出各处存了什么;带 `query` 时搜索;带 `topic` 时整份读一个主题。默认查自己的和团队的。++## 不做什么++- 不告诉 Bot 或用户上下文占用了多少,不给 Bot 切换段的工具。+- 不用固定的 token 线,不为某个模型写死数字。+- 不每轮都判断,只在过线后判断。+- 不用 git 管理记忆。+- 不改 DSH 的模型配置界面。「添加模型时默认填 500k 上下文」做不到,只能在模型完全没声明窗口时按 500k。++## 已知限制++- DSH 的一些适配器会给没写 `contextWindow` 的模型自己填一个默认值,这时插件拿到的是适配器的值,不是 500k。README 里要求用户填 `contextWindow`。+- 已经开着的会话看不到之后保存的记忆,只能靠 Bot 调 `recall`(#214 在讨论是否改变这一点)。+- 和[愿景](../vision.zh.md)第 3 条的差距:+ - 愿景要求 Bot 之间的记忆互相只读,现在普通 Bot 不能读别的 Bot 的记忆。+ - 愿景要求群聊记忆共享,现在没有群记忆,只有团队记忆(#151)。+ - 愿景要求目标驱动地完成工作,现在 Bot 会话里关掉了 DSH 的 goal(见 [DSH 让步总账](2026-10-13-dsh-concessions.md))。+- 「Bot 开一个全新的会话、保留身份」(相当于 /new)还没有(#122)。++## 变更++- 2026-10-08:定记忆的格式、存放和「整理不用 git」。+- 2026-10-09:分段从「到线就换段」改为「管家判断压缩还是换段」;所有线改为跟着模型走。diff --git a/docs/plans/README.md b/docs/plans/README.mdindex 84f18f11..a7756d06 100644--- a/docs/plans/README.md+++ b/docs/plans/README.md@@ -39,3 +39,4 @@| [DSH 让步总账](2026-10-13-dsh-concessions.md) | 因 DSH 本身的限制而做的妥协,以及桌面应用之后怎么处理。判断「是 DS Bot 的 bug 还是 DSH 的限制」先看这里 || [角色与权限](2026-10-07-roles-and-permissions.md) | 用户、Main Bot、群管理员、普通 Bot 各能做什么;Bot 的权限预设和群的统一权限 || [群聊](2026-10-07-group-chat.md) | 谁来回答、按顺序发言、@ 提及、轮数上限、干活中的进度和迟到的回复、审批 |+| [上下文与记忆](2026-10-09-context-and-memory.md) | 对话分段、上下文管家(压缩还是换段)、交接包、`read_own_chat`;记忆的存放、格式、权限、整理和冻结 |