LLM Wiki vs 传统向量知识库

两种根本不同的知识管理范式 — 2026-07-16

这是同一问题的两种范式RAG把每句话打成碎片存进向量库,等问题来了再搜索拼答案。LLM Wiki在资料进入时就完成消化——LLM 自己写摘要、更新概念、标注矛盾、建立交叉引用,知识以复利方式累积。

RAG 解决"在哪个 chunk 里";LLM Wiki 解决"我已经知道了什么,新信息怎么整合进去"。

📚 LLM Wiki

Karpathy 2025 年提出:人负责收集素材,LLM 负责编译成互链的 Markdown Wiki,人只读不写。核心是三件事——Ingest(读→写摘要→更新索引→更新关联页面→记日志)、Query(读索引定位→钻 2-3 页→合成答案带引用)、Lint(扫矛盾/过期/孤儿/缺失)。

🔍 传统 RAG 向量库

把文档切成 chunk → embedding 化 → 存向量数据库。用户提问时做语义搜索取 top-K chunk → 塞入 prompt 让 LLM 从碎片里拼答案。每次查询独立,不积累知识。典型工具:LangChain/Pinecone/Weaviate/Chroma。

LLM Wiki 版回答
"我们之前的调研结论是 RAG 在个人场景数据量小于十几万字时是过度设计——维护成本太高而且碎片化检索会丢失结构。但在超过约 40 万字后需要补充检索能力。详见 对比文档。"
RAG 版回答
"根据检索到的资料,Karpathy 在 LLM Wiki 中提到了三层架构...(中间 chunk 3 缺失)...建议先用 index.md 导航。另一篇文章提到 RAG 在企业场景更合适...(chunk 7 与 chunk 2 观点冲突)..."

系统对比表

维度LLM Wiki传统 RAG 向量库
知识何时加工摄取时编译——进库即消化查询时检索——来了问题才找
知识累积复利增长——100 篇比 10 篇更聪明无状态——查 100 次和第一次没区别
数据形态互链 Markdown 页面,人类可读向量碎片(chunk),人类不可读
维护者LLM 全权负责——人只管投喂和提问人管索引策略、chunk 大小、embedding 模型
Token 效率高——按需钻页面,调研可降 95%低——top-K chunk 全塞 prompt
知识一致性强——有作者/日期/来源,矛盾可标注修正弱——碎片拼接,同问不同 chunk 答案矛盾
长期记忆本身就是记忆系统——旧事实可标记过期无"更新"概念——新旧 chunk 等权拼接
规模边界≤40 万字用 index 导航;400 万+需辅助检索天生适合大文档量
人类可读标准 Markdown,Obsidian 当浏览器无法直接阅读
典型工具Claude Code + Obsidian / claude-obsidian / llm-wikiLangChain / Pinecone / Weaviate / Chroma

规模适用边界

LLM Wiki 最强区
≤40万字
混合区
40万–400万字
需要检索辅助
>400万字

Karpathy 原话:40 万字以内用 index.md 导航就够了,覆盖 90% 个人场景;超过 400 万字需要引入检索。Oh My KB 目前就处在这个范围。

Oh My KB 的实现对照