canonkeeper-mcp
canonkeeper —— 网文长篇验证 harness
给长篇网文的生成/改稿流程装上三级验证体系。模型无关(OpenAI 兼容 API 可插拔), 研究"怎么用模型",不练模型——模型是可插拔的被试,harness 是资产。
方案全文见 PLAN.md(v1,2026-09-07)。
书稿 txt → 切章 → [抽取器] LLM 结构化输出 → [状态库] SQLite
→ [规则引擎] 纯程序化不变量检查(不调 LLM,零幻觉)
→ [软验证器 M2] persona 读者 → [报告] markdown 冲突清单关键设计:硬验证器的"判定"环节不经过 LLM——LLM 只负责抽取,判定可复现、可单测、无幻觉。
规则引擎的谓词是纯函数,100% 单测覆盖(tests/)。
安装
python -m venv .venv
.venv/Scripts/pip install -e ".[dev]" # Windows;Linux/macOS 用 .venv/bin/
.venv/Scripts/pytest # 75 项单测,全部离线命令行入口:canonkeeper(主)、canonkeeper-mcp(MCP server)。dsh 仅作遗留别名保留——
deepseek-harness 的 CLI 也叫 dsh,同环境安装会撞名。
配置(密钥只走环境变量,绝不写入代码/配置/日志)
provider | 环境变量 | fast 档 | flagship 档 |
deepseek(默认) |
| deepseek-chat | deepseek-reasoner |
glm |
| glm-4-flash | glm-4-plus |
mock(离线冒烟) | 无 | — | — |
模型名可用 DSH_FAST_MODEL / DSH_FLAGSHIP_MODEL 覆盖(上游改名零代码适配)。
分级调用策略:fast 档做批量抽取,flagship 档留作终审/复核。
用法
canonkeeper ingest book.txt --db books/demo.db --provider deepseek [--limit 10] [--samples 3] [--skip-errors]
canonkeeper ingest book.txt --db books/demo.db --incremental # 增量追章:只抽库中缺失的章
canonkeeper check books/demo.db # 规则引擎,冲突写回状态库
canonkeeper report books/demo.db # markdown 冲突报告 + 挖坑清单 → reports/
canonkeeper replay books/demo.db 3 # 回放第3章抽取 JSON(往返核对)
canonkeeper stability book.txt --provider deepseek --runs 2 # M0 验收:抽取往返稳定性
canonkeeper rules # 列出内置规则无 API key 时可用 --provider mock 跑通全链路(返回与正文无关的固定样例抽取)。
内置规则(M1 起步集,PLAN §4 20 条中的可机检子集)
规则 | 检查 | 谓词 |
| 死亡后不得以活体出场(复生须登记) |
|
| 已毁/已耗品不得复用(修复/复得须登记) |
|
| 境界单调(废功须登记;阶梯前缀匹配,阶梯外值跳过不误报) |
|
| 年龄等数值属性随时间线单调(重生/回溯须登记;支持中文数字) |
|
| 位置连续性(瞬移须登记;依赖事件 location,缺失自动跳过) |
|
| 交易/赠予后所有权转移须登记(前后 window 章内查登记) |
|
| 账本连续性(余额类属性跨章变化链断裂须可解释;借鉴游戏经济 QA) |
|
| 收支复算(两次余额登记间收支代数和 ≈ 余额差;模糊值自动跳过,实验性) |
|
| 故事时间单调(闪回须显式标记;依赖 day_offset,缺失自动跳过) |
|
| 别名归一(别名指向多实体 → info,人工裁决) |
|
加规则零代码:写一个 YAML(rule_id/name/severity/predicate/params),canonkeeper check --rules your.yaml。
余额属性表/阶梯等参数按书自定义,示例见 examples/custom_rules.yaml。
PLAN §4 二十条中余下 10 条(称谓一致性、数字复述一致、代词指代…)需要更强的抽取契约
支撑,按里程碑逐步补谓词。抽取契约已含 commitments(本章立下的承诺/伏笔/悬念),
报告输出挖坑清单——「伏笔=定义、回收=使用」的 def-use 追踪在 M2 补全。
作为 dsh(deepseek-harness)插件接入(MCP)
deepseek-ai/deepseek-harness(CLI 名 dsh,
"everything is a plugin")的插件一等公民是 TypeScript/Cordis;Python 工具包的标准接入路径是
MCP server。本仓库内置两端:
MCP server(
canonkeeper/mcp.py,pip install "canonkeeper[mcp]"后由canonkeeper-mcp启动), 工具面对应 PLAN M3 生成回路:工具
时机
作用
ingest_book写后
切章 + LLM 抽取 + 入库
check_consistency写后
规则引擎冲突清单(JSON,纯程序化判定)
query_entity写前
按名/别名查实体属性、状态史、关系、出场章
replay_chapter复核
回放某章抽取 JSON,定位误报来源
get_report复核
markdown 冲突报告全文
dsh bundle(plugin/):薄壳,只插一行
@deepseek-ai/dsh-mcp-client配置。 安装:dsh plugin --profile <name> add file:<repo>/plugin,工具即以mcp__canonkeeper__*出现在模型工具列表。详见 plugin/README.md。
评测基准(evals)
事实级查全评测,代替手工对账成为质量门:标注 YAML(数值/实体/属性/变更/事件/关系/时间/信号
八类事实)+ 评测器。number 只认结构化字段(attrs 值/payload 值/change old|new),
quote 原文回显不算捕获——与人工对账同口径。版权边界:第三方热门文原文不入仓库,
--texts 指向本地目录,标注仅含事实与 ≤25 字定位短语。
.venv/Scripts/python evals/run_eval.py --labels evals/labels/bench-v1.yaml \
--texts <本地章节目录> --provider deepseek --samples 3 --out evals/results/latest.mdCI 门禁:ci.yml 在 push/PR 跑 pytest+mypy;eval.yml 手动触发跑合成 fixture 基准
(evals/fixtures/ 无版权风险随仓库分发,prompt/模型变更时的快速回归信号;
真实书稿基准仍在本地手动跑)。
当前基线 → 前沿技术迭代(bench-v1:艾尔德兰 3 章 + 热门财务流第 1 章万字体量,deepseek-chat):
品类 | number | entity | attr | change | event | relation | time | signal |
旧单段基线 | 75% | 84% | 38% | 40% | 62% | 0% | 33% | 80% |
G&O×3 自洽+跨章状态 | 88% | 100% | 50% | 60% | 62% | 100% | 67% | 100% |
三项落地技术:G&O 两段式抽取(先自由笔记后组织 JSON,arXiv 2402.13364——entity 100%、
关系抽取从 0 到有)、置信度自洽合并(N 遍并集投票,ingest --samples N,arXiv 2502.06233
——number 75→88%)、跨章有状态注入(前情状态随章累积回灌 prompt——time 33→67%,账本章界
衔接)。附带修复:万字章 JSON 输出被默认 max_tokens 截断(组织段提至 8192)。
历史发现(仍成立):对参与过 prompt 迭代的自家书查全偏高、未见过的热门文偏低——
过拟合风险靠"基准必须含未见书"对冲。标注格式见 evals/labels/bench-v1.yaml 头部注释。
已知代价(下一杠杆):自洽并集是查全面向的——万字章合并后实体 97 个/事件 124 条, 精度未度量;下一步加 precision 指标 + min_votes 阈值去噪。数字归位依赖组织段服从度, attr 50% 仍有空间。
写作知识库(docs/craft/)
M2 persona 与 M3 生成回路的领域弹药库,每条技法按「机理 → 一致性要求 → 可机检信号」组织:
长篇网文写作技巧:金手指预算规则、爽点循环、 承诺管理、信息差、数字叙事、卷结构、配角退场纪律、反派阶梯、章末钩子、追读设计
文学素养基础:动机与弧光、场景三要素、展示而非陈述、 对白潜台词、伏笔公平性、时序节奏、POV 纪律、时钟张力、主题母题
跨领域借鉴地图:游戏工业(任务图/经济平衡/旗标系统/beat chart/ 混合架构/事件溯源)与叙事学研究的可借鉴清单,附优先级
当前状态
M0 完成(真实 API,两轮质量迭代,2026-09-07/08):provider 层(deepseek/glm/mock + 分级 档位)、切章、抽取管线、SQLite 状态库、
stability验收工具。deepseek-chat 实测用户自有书稿 3 章:v1 基线:全链路通,但人工对账第一章关键事实查全仅 ~40%——19 项核心数字只捕获 4 项 (约 25%),次数/金币账本几乎缺失;稳定性 0.651。「管线跑通」≠「质量好」。
v2 迭代(抽取温度 0.0 + prompt 数字纪律/实体事件完备性 + 代词别名代码层硬过滤): 第一章数字捕获 17/19(约 90%),次数账本(50→47→24→3)与金币账本全链入库, 实体类型正确(暗影石→物品、闪光突刺→功法),代词别名滤净;稳定性 0.714 (第 2 章 1.000;散文化的第 3 章 0.476 仍差——完备性压力放大其波动,待研究)。
真实命中:ITEM_011 报出暗影石交易的所有权登记缺失(low 级交叉印证通道)。
已知缺口(下一杠杆):day_offset 需跨章上下文(单章自算:3/None/3,应为 3/4/5); 金币账 old 回填在章界断裂(第 1 章末 21 vs 第 2 章 old=16);伏笔节拍(刺客接近)仍漏; 双遍抽取交叉 + 旗舰复核(PLAN §8)未做。glm 适配器未实测(无 ZHIPU_API_KEY)。
评测基线(evals,2026-09-08):自建事实级基准实测 overall——number 75%、entity 84%、 attr 38%、change 40%、event 62%、relation 0%、time 33%。自家书数字 87% vs 未见热门文 45%, 过拟合风险实锤。详见上方「评测基准」。
M1 起步:规则引擎 + 10 条内置规则(⑮ 账本连续性与收支复算已落地——游戏经济 QA 移植)
报告(含挖坑清单)。抽取契约已含 commitments(旗标语义)。计划 20 条中其余谓词逐步接入; def-use 回收配对在 M2 补全。 自定义规则示例:
canonkeeper check books/demo.db --rules examples/custom_rules.yaml。
M2 占位:persona 契约与内置画像已定义(
readers/personas.py),模拟实现待 M2。dsh 插件接入(MCP):server + bundle 完成,stdio 端到端测试覆盖;真实 dsh 运行时
plugin add+--dump-config层叠加验证通过(工具注册的启动级验证待 LLM 凭据)。增量追章(事件溯源化):
--incremental只抽库中缺失的章、投影随全书重建(按章号对齐)。CI:push/PR 跑 pytest+mypy;eval workflow 手动触发 fixture 基准。
重建策略:
rebuild()以全书抽取为事实源单事务重建(增量模式下事件日志=抽取原文,投影可重放)。
工程约定
异常策略:统一异常;层边界翻译为
ProviderError/ExtractionError/RuleError并附上下文;CLI 顶层统一打印一次错误(--debug看栈)。LLM 输出与规则 YAML 一律按不可信输入处理:pydantic 严格验证 /
yaml.safe_load。API key 只从环境变量读取;任何错误消息与日志不含密钥。
文稿版权:只处理用户自有/公版文稿,不内置任何平台抓取。