 caoqianming
|
fb214de960
|
fix(context): 窗口体量估算实测校准——50%压缩/85%折叠/占用环换 token 实测口径(bump 0.58.52)
diag 实测(scripts/diag_context_pressure.py 留仓):折叠机制有效、零撞硬上限,
但静态 CHARS_PER_TOKEN=2.5 对中文密集窗口低估近一倍——名义 85% 折叠线实际
~155% reliable 才触发(task 9a863424 冲到 40.7 万 tokens);代码密集反向虚高
(fe2d8b73 估 1.2M 实际 616k)。
修法是信号校准、不加新机制:
- context.py: estimate_window_tokens(provider 实报 usage 覆盖窗口主体,仅实测
点后尾巴按 2.5 估)+ calibrated_chars_per_token(比值夹 [1.0,4.0] 带宽)
- session.py: last_measured_usage() 取窗口内最后一条实报 usage 的 assistant 行
(best-effort 绝不抛;idx→内存 pos 映射校验 role)
- context_fold.py: maybe_fold 触发判定换 token 实测口径
- loop.py: 压缩门槛与 context_limit_chars(前端环)用校准比值,逐轮以
sent_chars/prompt_tokens 刷新;校准态挪类属性兜默认,任何异常回退 2.5
已知残余:折叠后 run 在首次 chat 完成前崩掉会多折一次(摘要偏保守,原文全在
DB),不为此加持久化状态。run 中途折叠/超限自愈按 §5 无信号不实施继续搁置。
真实生产 task 只读验证映射与校准(drift 0.95x/0.51x/0.86x),286 测试全绿。
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
|
2026-07-21 12:49:02 +08:00 |
|
caoqianming
|
66a515aa3d
|
feat(context): §8.8 Phase 2 长会话中段折叠摘要 + 头部压缩指示环(bump 0.54.1)
- 折叠(0.54.0):run 起点窗口体量达 reliable_context×85% → core/context_fold.py
把中段折叠为固定模板结构化摘要(路径/ID/数值原文保留),写 tasks.context_summary
(migration 0021)+ 推进 context_base_idx;Session.load 注入仅内存「前情摘要」
(_n_head/_base_idx 维护 idx 映射);摘要调用复用会话 prepare 后前缀 + 末尾追加
指令,与上一轮 chat 缓存字节一致近全程 hit;失败零阻塞(warn+跳过);「新话题」
硬重置 / web 清空对话顺带清摘要,gap 软重置保留
- 前端(0.54.0):新 SSE context_fold 事件(start 状态行提示 / done 流内分隔条);
补 warn 事件渲染 —— 此前 loop 熔断/重复拦截提示在 web 端被静默丢弃
- 压缩指示环(0.54.1):头部金额撤下明面(挪 hover tooltip),换 SVG donut
(绿<50% 未压缩 / 琥珀 50-85% 压缩区 / 红≥85% 达折叠阈值)+ 已整理×N;
GET /v1/tasks/{id} 详情新增 context_window_chars/limit_chars/pressure/folds
(additive,列表端点不加);折叠计费 kind="context_fold"(record_chat_usage
加 kind 参数,折叠次数 = count 该 kind,零 migration);llm_start 事件补
context_limit_chars,run 中实时刷环
- DESIGN:§8.11 新增「最小子循环 delegate」预留(上下文隔离而非多 agent 编排,
按 diag 数据触发,无信号不实施);§1/§6 "不做 subagent" 收窄为编排型;
§8.8 Phase 2 标 ✅ 沉淀六条取舍;§7.2 SSE 清单补 warn/context_fold
- tests/test_context_fold.py 12 项(切点/映射/apply_fold/maybe_fold 打桩),
全量 198 过;本地 DB 已升 0021
Co-Authored-By: Claude Fable 5 <noreply@anthropic.com>
|
2026-07-09 12:39:31 +08:00 |