在 AI 工具不断迭代更新的今天,不知道大家是否和我一样,希望有一款 AI 工具能够检索自己整理的笔记资料,并以对话的方式直接输出结果。这其实就是知识库(RAG)的核心理念。借助 Cherry Studio 软件,结合 Ollama 中的开源模型,以及 DeepSeek、Gemini 等提供的免费额度,即便像我这样的零基础小白,也能轻松搭建属于自己的 AI 知识库,无需任何专业背景。
效果图
AI 会检索知识库里的信息来回答你的问题。

原理
原理?我就一小白哪懂什么原理🤯,我只知道需要一个文本嵌入模型来预处理知识库里的素材,然后需要一个语言模型(DeekSeek、ChatGPT)来帮我输出结果,而两个模型质量会影响我们输出的结果。所以,文本嵌入模型和语言模型是我们需要准备的东西。
需要的工具
- Cherry Studio 软件(https://cherry-ai.com/):这是你会直接使用的工具。
- Ollama:通过 Ollama 安装 bge-m3 文本嵌入模型,用来预处理放入知识库的素材。
- DeepSeek API Key:通过 DeepSeek官网、阿里云百炼、腾讯云、火山引擎等平台薅取免费的 token,通过 API 调用满血版的 DeepSeek,无需本地部署大模型。
因为本地只需要安装一个软件和一个文本嵌入模型,对配置要求不高,一般电脑就可以胜任。
具体步骤
- 通过官网地址下载免费的 Cherry Studio 软件,并安装。
- 官网下载 Ollama(https://ollama.com/)并安装,我们需要通过它来安装文本嵌入模型来预处理知识库里的材料。
- 安装好 Ollama 后,打开终端应用(Mac 用户搜索 “终端”,Windows 搜索“Terminal”),在黑黑的界面中输入
ollama pull bge-m3
来下载和安装文件嵌入模型,等待完成即可。完成后输入ollama list
会显示出我们刚刚安装的模型。

- 选择一个平台去获取免费的 DeepSeek 使用额度,推荐:阿里云百炼、腾讯云、火山引擎。
- 我这里以阿里云百炼为例,点击上方链接进入阿里云百炼,初次登陆需要进行实名认证(https://myaccount.console.aliyun.com/cert-info)。通过阿里云百炼链接进入后台后,点击右上角的“创建我的API-KEY”,生成一个即可。至此,所有需要准备的东西都完成了。

- 先配置文本嵌入模型:打开 Cherry Studio 软件,点击左下角 设置 图标,选择“模型服务”,在列表中选择 “Ollama”,点开右上角的 开关,“API 密钥”处空着,在“模型”部分点击“添加”,在窗口的“模型ID”处填入
bge-m3:latest
即可。


- 然后配置语言模型(DeepSeek):点击左下角设置图标,选择“模型服务”,在列表中选择 “阿里云百炼”,点开右上角的 开关,在“API 密钥”处填写后台申请的 Key,在“模型”部分点击“添加”,在窗口的“模型ID”处填入
deepseek-r1
即可。(如果有需要也可以将其他模型添加上,比如deepseek-r1
等等。)


- 现在我们就可以配置知识库了,点击Cherry Studio 软件窗口左侧的“知识库”按钮,“添加”一个知识库,“名称”随便填,“嵌入模型”中选择我们配置的
bge-m3:latest
。

- 现在只需要将你想添加到数据库中的文件拖入即可,当嵌入模型预处理完成后,会在相应的文件右侧显示出一个绿色的小勾。

- 最后,你只需要创建一个对话,并勾选中“知识库”选项,就可以调用属于你自己的知识库啦,记得在对话框顶部选择你想使用的语言模型哦~

小结
还记得 ChatGPT 刚问世那会儿,网络上随处可见对 AI 的质疑声。很多人觉得它不过是会拼凑套话的”人工智障”,甚至戏称其为”高级复读机”。但谁也没想到,短短两三年间,人工智能竟以惊人的速度进化——从实时联网检索信息,到成为程序员的智能搭档,再到深度研究功能的突破性进展,这些技术突破不仅让普通职场人的工作效率翻倍,甚至开始替代部分传统岗位。身处这场智能革命的浪潮中,与其被动担忧被取代,不如主动掌握新工具。当 DeepSeek 被身边人津津乐道的时候,我们是否更应该思考:如何让这个聪明的数字助手,真正成为提升个人竞争力的加速器。
终于知道怎么添加本地知识库模型了!!!感谢感谢
嘿嘿,不客气
AI 今年是大大的普及了。连街边的老头都在探讨 AI。
DeepSeek 这波太出圈了,过年回家我发现我爸手机上都装了一个
啊,这…..我给我侄女(高中)推荐的,她装用了两天说还不如豆包….
DeepSeek R1 我也不是很喜欢,感觉幻觉太严重了,连续提问下会乱答。我自己用 V3 还多一些。
以后应该可以有专门给企业定做ai信息库的这种
应是是有的吧。
而且今天我看到腾讯家出了一个 ima知识库,操作更简单了
现在什么都因为ai发展的太快了