我存了这么多资料，怎么让AI自己去找？

今年以来，我陆续存了很多文档、文章和笔记，也让AI帮我做了不少项目。做的事情多了，这些项目和资料也就散在不同地方，用不同方式保存着。等到做独立站内容、处理运营问题，或者接着做旧项目时，我又得先把相关资料找回来。

我之前会把这些内容手动整理到一份Markdown文档里，然后让AI先去读这份文档。但是后来我发现，这个办法实在太麻烦，也很难一直维护下去。

所以我就开始琢磨，能不能用知识库来帮我检索以前的对话、跟我有关的信息，还有平时积累的知识和项目记录。我想让AI在继续做一件事时，先把需要的资料找出来，不用每次都由我先整理一份文档给它读。

想自己搭，可以先复制这段Prompt

如果你只想先搭一个自己的知识库，可以直接复制下面的完整Prompt，交给能操作本机文件的AI工具，不必先读完后文。它会先确认安装意愿、检测硬件，再根据你的电脑和资料选择模型，完成安装、建库和验收。

这段Prompt适合OpenCode、Codex CLI或Claude Code，也就是能读写本机文件、运行命令的AI编程工具。它会用到Ollama，这是在本机运行模型的软件。

你是一位能操作本机文件和终端的AI编程助手。请带我从零搭建一个可实际使用的本地文字知识库：我提出问题，你能从我已经保存的文章、笔记或工作记录里找相关片段，打开原文核对，再继续处理任务。

请实际完成代码和运行验收，不要只给方案或问完问题就结束。我不熟悉模型和环境，不用我先填完一张参数表；按下面顺序一次问一个主要问题，等我回答，再继续。能直接读取的信息你自己读取，已经确认的信息记下来，不要每轮重新问。

【适用前提与范围】
先根据当前工具能力确认：你能访问的是我这台电脑的指定目录，能创建项目文件并运行终端，而不只是你自己的临时云端沙盒。没有这些能力时，直接说明目前只能指导，告诉我怎样在具备本机权限的工具中继续使用这同一条Prompt，不要在其它机器装好后声称已给我的电脑部署。
这里先核对工具自身的能力与工作位置，不提前安装、扫描资料或检测我的软硬件；具体环境检测在我同意继续后再做。
首版只做本机文字检索。语义版包含关键词/全文和语义两个入口；不装模型时可以先做关键词版，如实说明差异。不训练或另装聊天模型，不先加NAS、多电脑同步、定时采集或公开部署。向量编码用本机Ollama，不替换成云端embedding API。
下文模型、向量和语义相关的步骤只在语义版执行；关键词版将这些项标为未启用，不伪造模型信息或测试成功。

【第一阶段：先问安装意愿】
确认具备本机操作能力后，先问我这一个主要问题：
“你是否已经安装Ollama？如果没有，是否愿意安装，并下载一个在本机运行的文字嵌入模型？”
先用普通话解释：Ollama是运行模型的软件；嵌入模型把文字转成可比较的数字，用于找资料，不是负责最终回答的聊天AI。
我不愿意安装时，不继续安装或下载模型。说明可以先做关键词/全文版，以及缺少语义检索的区别，由我决定。若我选文字搜索版，跳过模型选择、下载和向量编码，直接实现对应能力；状态和命令必须明确语义尚未启用。

【第二阶段：只读检测现有电脑】
我愿意继续后，先检测，不安装、不加载尚未确认的模型：
1. 操作系统、Python及可用项目环境。
2. CPU型号、物理核心与逻辑线程数。
3. 系统内存总量与当前可用量。
4. 独立显卡或核显型号；专用显存总量与可用量。核显共享系统内存时单列，不能当成相同大小的独立显存。
5. 项目磁盘可用空间。
6. Ollama是否存在、版本，以及已安装模型的名称、量化和维度（能读取的才填）。
把检测结果整理成我能看懂的小表，解释哪些资源影响加载模型、建立索引和日常查询。检测不到就写未知，给我一条具体查看方法，不猜数字，也不让我抄你能直接读到的信息。

【第三阶段：问资料与项目目录】
接着问我：“你准备查询哪些资料，存在哪个目录或哪些目录，主要想用它完成什么工作？”
只读取我确认的目录，不扫描整块硬盘。先用少量常用Markdown或TXT跑通；其它格式列出转换办法，不能把没读到正文的文件算成已入库。原资料只读，转换也生成副本，不移动、删除或改写原文件。
再确认一个独立的新项目目录，用来存代码、索引和日志；若目录里已有无关内容，换新目录，不覆盖。本地知识库工程的代码、虚拟环境、索引和日志不作为原资料再次收进库。
然后请我给一道真实问题和预期应找到的文件。没有真实问题时，可以在项目demo目录生成有明确标识的功能样例，但不能把它当成我的真实资料或质量评测。

【第四阶段：解释4B和8B，再让我选一个】
这里选Qwen3-Embedding文字嵌入模型，不是同名聊天模型。Ollama标签为qwen3-embedding:4b和qwen3-embedding:8b。4B/8B是参数规模名称，B是十亿这个数量级，不是4GB/8GB内存。

作者在RTX 4070 Ti SUPER、16GB显存、两者Q4_K_M量化下的参考值是：
- 4B：模型文件约2.50GB，模型驻留显存约3.39GiB，输出2560维；暖态文档编码约13.67片段/秒。
- 8B：模型文件约4.68GB，模型驻留显存约5.60GiB，输出4096维；暖态文档编码约9.67片段/秒。
- 同一批2000片段、52题中，指定文档排第一分别42/52和48/52，进前五分别50/52和51/52。
这只是一次有界实验，其中26道改写题沿用原标注，不是独立测试集。它不是回答准确率，不证明所有中文资料都更适合8B。8B在这批题中排位更好，但编码较慢、文件和向量索引更大；4B原本已能找回大部分目标资料。

结合我的硬件与用途，解释两种选择的好处、代价和未知，再给建议：
- 什么时候4B已经够用，或资源与编码速度更合适。
- 什么时候有条件承担8B，并值得继续用自己的问题验证。
- 仅CPU或核显时，当前Ollama的支持路径和速度有哪些未知。
模型文件、模型驻留显存、整张显卡占用、查询进程运行内存、索引磁盘分开记，不能相加或互相替代。上述显存值不是CPU运行内存要求，也不是所有电脑的安装门槛。实际标签、量化与文件量级安装前再核。
本机条件不足时先说明，不强行让我二选一。条件允许时，只问：“看完这些取舍，你想先用4B还是8B？”由我确认具体型号；已装有同一型号就复用，不为了对照先把两款都下载，也不删除其它模型。

【第五阶段：确认后安装并试跑选定模型】
这时才按所选模式安装最小必要依赖。语义版另安装缺少的Ollama和已确认模型，关键词版不装它们；发现必需的软件尚未获同意时先说明，等我决定，不擅自安装。项目Python依赖放虚拟环境，不改无关项目或全局配置。遇到需要我完成的系统权限或交互步骤，明确告诉我并等我操作，不能假装已经完成。
语义版使用当前Ollama版本支持的接口，用一小段文字验证模型能返回向量，并检查实际维度/量化/模型身份。只试已确认的型号。检查加载后的资源与一次普通编码耗时，失败就保留错误并说明下一步，不自动下载另一型号、终止其它工作或重建旧数据。

【第六阶段：写出真正能运行的最小项目】
请实际创建并测试这些交付物，功能不能只留TODO：
- README.md：环境、模型、资料范围、具体启动与使用命令。
- requirements.txt：最小依赖。
- kb.py：至少提供build、query、update、status四个操作；query支持关键词和语义两种模式，能输出JSON。
- config.json：所选模型身份、量化、向量维度、文档/问题各自的任务指令、切段设置、资料与数据库位置。
- data/：运行代码真正建立的SQLite索引，不用空文件冒充已建库。
- demo/：明确标识的功能样例和独立测试索引，不冒充我的真实资料库。
- logs/或演示结果：执行过什么、结果是什么、失败或跳过了什么。
若你采用等价文件组织，先说明对应关系，但上述能力都要有。

处理要求：
1. 长文切成有少量重叠的片段，保存标题、来源链接（有才填）、原文件位置和真实可核对的片段位置。不要编造行号。
2. 选择语义版时，用本机Ollama生成文档向量存入SQLite。问题和文档遵循模型要求使用兼容的编码配置，分别记录指令与版本；影响文档向量的配置变化时另建索引并重编码，不混旧向量。文字搜索版不虚构模型或向量信息。
3. 关键词/全文入口必须实际匹配中文正文，不能只匹配文件名；说明匹配方式。语义入口用所选模型查候选，返回排名、相似度、标题、相关片段、原文件路径和片段位置。相似度不是准确率或保证相关的概率。
4. 返回片段后可以打开原文核对。没有足够依据就明确说未找到，不给虚构答案或假出处。
5. 再运行时只处理新增或变化的文件；单个更新失败保留上一次完整版本。记录原文的内容哈希或修改信息，和索引不一致时提示需要更新，不把旧片段冒充当前版本。源文件移动/删除导致出处失效时要报告并更新记录，不继续输出假路径。原始资料不改写。
6. 先少量跑通再扩范围；不要先全量处理所有目录才发现配置不兼容。列出实际纳入/跳过的文件及原因。

【第七阶段：接到我实际使用AI的方式里】
不能只留一个数据库就结束。根据我的系统和当前工具，给出可直接复制的完整命令：建立索引、关键词查询、语义查询、增量更新、查看状态；路径包含中文或空格时也要能运行。
再提供一段项目内调用约定，说明AI遇到相关任务时如何调用这套检索、返回来源、打开原文后再回答。能在当前工具实际演示调用就演示；不支持时说明限制，给出把命令结果交给AI的最短办法，不捏造一份已接入的配置。
把首次安装与日常使用分开写。明确重开电脑后要启动什么、打开哪个项目、给AI哪段调用约定；不能要求我每天重装模型或全量重建，也不能假装任何新对话都会自动知道这个库。
不要擅自改我电脑全局规则、其它项目或品牌的配置，也不要自动发布、同步或创建定时任务。

【第八阶段：实际验收和最后交付】
使用已确认的少量资料，依次演示：
1. 建立索引，核对文件数/片段数与模型信息。
2. 用我提供的真实问题查询，确认目标资料是否出现，再打开原文看是否支持结果。
3. 语义版同题分别看关键词与语义结果；关键词版只验其已启用能力。换个问法再查，但把改写题单独标出，不将未启用模式冒充成功或无结果。
4. 使用项目demo目录和独立测试索引，加入一份明确标识的测试文本，增量更新后查到它；不偷偷改我的原资料目录，也不把测试内容混入正式库。
5. 在独立demo库实测UTF-8中文路径、无结果/坏文件的处理，再说明正式资料下一次怎么继续更新。
记录首次小批建库时间、完整查询耗时、索引磁盘大小，以及能测到的查询进程内存/模型驻留显存。不同口径分别列，未测到写未测量；问题编码时间不当成完整查询时间。功能样例和真实问题分开，不把功能跑通、一次命中或改写成功说成普遍质量优势或业务收益。

最后明确交付：项目实际路径与文件清单；选定模型/环境；已经运行成功的命令和结果；我以后加资料、查资料、更新时各用哪条命令；AI怎样调用；仍失败或待我操作的步骤及日志/恢复入口。
没有执行工具就不能说已安装、已写文件或已验收；失败或尚在运行的步骤也不能写成全部完成。

现在先按适用前提核对工具的本机操作能力；通过后只提出第一阶段的Ollama安装意愿问题，等我回答后再做第二阶段的环境检测。后续流程都包含在本Prompt里，按顺序继续实际完成，一次一个主要问题，不要问完就停在方案上。

这段Prompt用于搭建本机文字知识库，让AI能查询已有资料，并在文件新增或修改后更新索引。

用中文提问，怎么找到英文资料？

我之前让AI试检索时，其中一道题想找的是GPT-4o那次过度迎合用户的复盘，中文问法是：

之前那个越聊越迎合人的4o出了什么问题，OpenAI是怎么纠正的？

那次指定要找的资料，是我已经保存的OpenAI官方复盘。完整文件名是：

2025-04-29 Sycophancy in GPT-4o： What happened and what we’re doing about it.txt

这里的Sycophancy就是“过度迎合、谄媚”的意思。

但是这道题用的是“越来越迎合人”这个中文说法，没有填Sycophancy。只看这份英文文件名，区别就出来了：

记得4o、Sycophancy这些词时，我照样可以直接搜文件名。但是搜到模型相关文件后，还得继续看正文，判断哪篇在回答“为什么越来越迎合人、后来怎么处理”这个问题。

知识库会根据这个问题去匹配已入库的相关内容，不要求文件名里出现同样的中文字。那次查询返回的第一条，就指向这篇复盘，记录里还带着文件位置和片段编号。

原文开头写了回滚那次GPT-4o更新，后面还谈到训练、系统提示和用户反馈怎样调整。我想继续核对处理方式，就可以顺着结果回到这份原文，不只停在一串文件名上。

文件名搜索按名字里的词找，语义检索则按问题去匹配已收录的内容，把相关材料和出处一起带回来。我不必先把中文里的“迎合”换成Sycophancy，才能开始找这件事的资料。

知识库和普通搜索，有什么区别？

如果我已经知道文件名、型号，或者记得正文里的词，直接搜索当然更省事。全文搜索也可以换词、加同义词、限定目录，我没有把这些办法扔掉。

但是有时候，我只记得想查的主题，不记得文章标题，也不知道作者用了哪个词。比如前面那道题，问题里说的是“越来越迎合人”，原文标题用的却是Sycophancy。这时我就可以直接把问题交给知识库，让它先按内容找相关候选。

我会看自己记得什么，再决定怎么找：

语义检索也会找错，所以返回结果以后，我还是要核对原文。它帮我做的是按问题找内容，不是替我保证每份资料都正确、每条旧结论现在仍然适用。

文章、笔记和AI聊天记录，怎么整理成知识库？

我需要查的不只是收藏的文章和笔记，还有保存下来的AI历史聊天、项目背景、讨论过的方案和最后的决定。继续做旧项目时，这些资料能让AI查回之前的讨论和上下文。

我让AI把原始文字保留下来，连同标题、来源和文件位置一起记录。这样找到一段聊天或一条旧决定以后，还能沿着出处回看当时的上下文，核对具体说法。

我用的是千问嵌入模型。这里的“嵌入”，可以理解成把文字变成一组用来比较内容的数字，这组数字叫向量。模型先帮查询程序找资料，找到以后，回答和写作仍交给正在使用的AI，不是拿它来替我聊天。

模型通过Ollama在本机运行。AI先把长文或导出的聊天记录拆成小段，相邻两段留一点重叠，再交给模型。每段返回的向量，会跟原文位置一起存进SQLite，也就是一个文件形式的数据库。这些用来查找片段、记住向量和原文位置的记录，就是索引，查询时才能把片段和出处一起带回来。

实际使用时，文章、长期记忆、专题资料和历史会话分别保留自己的索引，AI根据任务调用相应的查询入口。收到任务后，AI先查资料，再打开原文继续处理；新增或修改的文件，也能单独更新。代码、分段和索引处理由AI及工具完成，我提出的是资料怎样被使用、结果怎样核对的要求。

所以查不到时，我会先看文件收进来没有、索引有没有更新，再判断是不是排位的问题。资料如果还没进库，换个大模型也不会凭空找到。

知识库的检索模型，我是怎么选的？

前面说的嵌入模型，负责把问题和资料转成可以比较的向量。选不同的模型，找回资料的结果、电脑占用和建库速度也可能不同，所以搭好检索入口以后，我还要比较模型是否合适。

我用的是千问的嵌入模型，原来用4B，后来换成8B。这是同一系列里两个不同参数规模的版本。

参数是模型在训练中学到的数值。B是billion，也就是十亿；4B和8B是约40亿、80亿这个级别的参数规模叫法，不是“占4GB、8GB内存”。模型文件多大、运行时占多少内存，要分别看实际测量。

4B和8B运行时，各占多少内存？

电脑内存是CPU和程序使用的RAM，显存是显卡使用的内存。我让AI在这台电脑的显卡上运行模型，所以除了电脑内存，还要看模型占了多少显存；下载文件占的则是硬盘空间。

这里的GiB是1024进制容量单位，1 GiB＝1024 MiB；模型文件沿用下载记录的十进制GB。比如4B这一列，表示模型相关Ollama进程的电脑内存工作集采样峰值约1.118 GiB，模型另驻留约3.39 GiB显存。不是下载2.50 GB文件后，运行也只占2.50 GB。

两个模型的运行记录都显示为全GPU驻留，上表不是纯CPU运行的内存需求，也不是整台电脑的全部占用。Ollama工作集是相关进程的合计，共享页可能重复计数，采样也可能漏过短时尖峰，所以我把它作为运行记录，而不是所有电脑的最低配置。

我用的电脑和相关资料

模型比较记录来自2026年10月24日至25日。

• 显卡是RTX 4070 Ti SUPER，标称16GB显存。系统物理内存约63.8GiB，记录里有20个逻辑处理器，CPU型号和物理核心数没有记录。
• 两模型都是Q4_K_M量化，也就是压缩权重来减少占用；4B是2560维，8B是4096维。
• 固定的是2000个文字片段，不是2000篇独立文章。52题里有26道原题，另外26道换了问法，但仍然沿用原来的目标标注。
• 两模型各自重新编码文档和问题，没有把4B向量直接拿给8B用；对照范围不包含整个生产知识库。

同样问52次，有多少次能找到指定资料？

我让AI用两个模型，分别检索同样的52个问题。每题都事先指定要找哪份资料，查询程序返回一列候选结果，再统计那份资料排在第几条。这里比较的是找资料，不是让模型生成答案。

比如表里的“42次 / 52次（80.8%）”，就是问了52次，其中42次打开第一条结果就能看到指定资料。“查看前5条能找到”则把第1到第5条都算进去：目标排第2条，虽然不算第一条命中，但算前5条找到了。

Hit@1、Hit@3、Hit@5、Hit@10分别是这些口径的指标名。它们是同一批问题的不同查看范围，前5条已经包含前1条和前3条，不能把各行的次数相加。

最后一行MRR@10是另一种汇总名次的分数：目标排第1记1分，第2记0.5分，第3约0.333分，没进前10记0分，再对52题求平均。0.947比0.876高，表示指定资料整体更靠前；它不是94.7%或87.6%的回答正确率。

这张表里，8B多了6题排第一，约提高11.5个百分点；但是进入前五只多1题，进入前十则没有变化。它比较的是指定文档的排名，不是AI最后回答得对不对。

比如前面那个4o问题，目标复盘在4B结果里排第二，在8B结果里排第一。4B的第一条是OpenAI后来另一篇同主题复盘，也在谈过度迎合。这一题反映的是指定目标的排序差别，两个模型都找回了相关资料。

同一个意思换种问法，还能找到吗？

52题分成两组：先有26道原问题，再给每题改写一个问法，但仍然找同一份资料。比如后面那道Cursor问题，把“每秒上千token速度编辑文件”改成“快速应用代码修改为什么能那么快”，就是这类改写。

下表的分母因此变成26。“23次 / 26次（88.5%）”表示这一组问了26次，其中23次的指定资料排在第一条。原问题组和改写组分开算，MRR@10仍按前面那种方法计算。

4B在原题上的前五已经全中，换过问法后，两个模型的结果又不一样。把两组都列出来，能看见这批题里8B改善了哪些位置，也能看见4B原本已经够用的地方。26道改写题仍然不是独立采集的新测试集，不能拿它们推成所有中文问题都会有同样改善。

有一道改写题，从第10排到了第2

这道题要找的是Cursor介绍快速应用代码修改的官方文章。同一轮对照里，原问题和改写后的名次如下：

这就是“排得更靠前”的一个具体变化：同一目标文档，在这道改写题下从第10到了第2。不过，这只说明这道题的结果，不能把它说成所有任务都有同样效果。

再看为此多用了什么资源

暖态就是模型已经加载。表里的问题编码时间，只算把问题变成向量这一步；后面还要读库、比较和排序，不是几十毫秒就完成了整个知识库查询。P95则用来看较慢那一侧的延迟，也不是最慢的一次。

8B编码文档慢一些，模型文件和驻留显存也更大。向量维度从2560变成4096，同格式原始向量所需空间就是1.6倍，但数据库里还有别的内容，不能说整个库和所有开销都正好翻倍。

文件、显存和运行内存，为什么要分开看？

模型运行记录显示为全GPU驻留。Ollama进程工作集是当时这条运行路径测到的系统内存，不是只用CPU跑模型的最低要求；整卡显存里也有其它桌面程序的占用，不能再和模型驻留显存相加。

这些峰值是采样值，可能漏掉短时尖峰，运行顺序和其它桌面负载也没有充分随机控制。所以它们用来说明我在这台电脑上实际付出的资源，不是给所有电脑划一条安装门槛。

看完这些，我可以继续用4B，前几条结果已经能找回大部分目标资料，编码更快、占用也小；也可以换8B，接受更大的模型和更慢的文档编码，换取这批题里更靠前的结果。

我选择8B，是因为我的电脑承担得起多出的占用，而这批题的检索又确实有改善。 如果电脑资源紧张，或者看前几条结果已经够用，保留4B完全可以。部分干扰片段由旧4B检索选取，题量也有限，我不会拿这批题的结果替所有中文知识库做决定。

总结

我搭建本地知识库，是为了让AI能继续使用我保存的文章、笔记、历史聊天和项目记录。资料先整理成可以检索的片段，保留原文和出处；我提出问题以后，AI查相关内容，再回到原文核对，接着处理任务。

知道文件名或原词时，普通搜索仍然好用。只记得大意、说法又和原文不一样时，语义检索能补上另一种找法。找到资料以后，我仍然要看它是否相关，旧结论是否还适用。

模型则按自己的资料和电脑来选。4B在前几条结果里已经能找回大部分目标；我换成8B，是因为电脑承担得起额外占用，而且已有对照里指定资料的排名有改善。资源紧张时保留4B也可以，模型占用的空间和处理资料时的等待，都要放进选择里一起考虑。想自己搭的话，可以先用前面的Prompt，拿少量常用资料跑通查询、原文回读和更新，再决定要不要扩大资料范围或换更大的模型。