字数 1076，阅读大约需 6 分钟

Ollama + DeepSeek + AnythingLLM 构建本地知识库，打造私人 AI 助手！

大家好！我是你们的老朋友喵~

今天给大家分享一个超实用的组合——Ollama + DeepSeek + AnythingLLM，让你轻松构建本地知识库，打造属于自己的AI 助手！它完全离线运行，私人资料最重要的是

不要联网

快速上手：Ollama + DeepSeek + AnythingLLM

在开始部署之前，请确保你的系统满足以下要求：

• 操作系统: Windows / macOS / Linux (推荐 Ubuntu 20.04 或更高版本)
• GPU: 支持 CUDA 11.0 及以上版本的 NVIDIA GPU（GeForce RTX 2060就可以，我本地就是这个）
• 内存: 至少 16GB RAM
• 存储: 至少 20GB 可用空间

安装Ollma

1. 访问官网主页

• Ollama 下载：https://ollama.com/download

2. 等待浏览器下载文件 OllamaSetup.exe，完成后双击该文件，出现如下弹窗，点击 Install 等待下载完成即可。
3. 安装完成后，可以看到 Ollama 已经默认运行了。可以通过底部的导航栏找到 Ollama 标志，并右键后点击 Quit Ollama 退出Ollama或者查看 logs。

通过Ollama下载 DeepSeek-R1 模型

1. 使用 Ollama 下载 DeepSeek-R1 模型：

如果本地电脑配置比较低可以使用 ollama run deepseek-r1:7b
```
ollama pull deepseek-r1
```
2. 等待下载完成。下载进度会显示在终端中。
3. 验证模型是否下载成功：
```
ollama list
```
如果看到 deepseek-r1，则说明模型已成功下载。

运行模型

1. 启动 DeepSeek-R1 模型：
```
ollama run deepseek-r1
```
2. 模型启动后，您可以直接在终端与模型交互。例如：
```
>>> 你好，DeepSeek！
你好！有什么我可以帮助您的吗？
```
3. 如果需要以 API 形式提供服务，可以使用以下命令：
```
ollama serve
```
默认情况下，API 服务运行在 http://127.0.0.1:11434。

下载和安装 AnythingLLM Desktop

• 下载 AnythingLLM Desktop：下载地址^[1]
• 安装时注意选择非 C 盘的目录，避免占用系统盘空间。

2. 配置 DeepSeek 模型

1. 打开 AnythingLLM，点击左下角的设置。
2. 选择 LLM 首选项，将模型提供商设置为 Ollama。
3. 选择已安装的 DeepSeek 模型。
4. 检查模型地址是否正确，然后点击保存。

3. 配置向量数据库和嵌入模型

• 向量数据库使用自带的即可（默认安装在 C 盘，如需移动可手动调整）。
• 嵌入模型可以使用自带的，也可以选择 Ollama 安装好的模型。
• 配置完成后，点击左下角的返回。

4. 创建工作区

1. 新建一个工作区，默认会创建一个会话。

2. 将本地文档拖拽到上传框，即可将文档添加到知识库。

• 注意：只需拖拽一次即可，重复拖拽会导致文档多次上传。

—

使用场景

1. 个人知识管理

• 将学习笔记、工作文档上传到知识库，快速检索和关联相关内容。
• AI 助手帮你总结文档重点，生成学习报告。

2. 代码开发

• 上传代码库，AI 助手根据你的开发习惯，快速生成代码片段。
• 支持代码注释自动生成、Bug 排查建议等功能。

3. 团队协作

• 将团队文档、项目资料整合到知识库，方便成员快速查找和共享。
• 通过 API 接口，将知识库集成到团队协作工具中。

总结

Ollama + DeepSeek + AnythingLLM 通过将 Ollama、DeepSeek 和 AnythingLLM 三者结合，你可以轻松地构建一个本地大模型知识库。这种方法不仅能够帮助你高效地管理和组织信息，还能够提升你的工作效率，尤其是在处理海量文本、资料时，能够通过深度学习的能力快速找到最相关的内容。

GitHub 项目地址：

• ollama^[2]
• AnythingLLM^[3]
• DeepSeek^[4]

好文推荐：

如果觉得这篇文章对你有帮助，记得点赞、分享哦！我们下期再见～

引用链接

[1] 下载地址: https://anythingllm.com/desktop
[2] ollama: https://github.com/ollama/ollama
[3] AnythingLLM: https://github.com/Mintplex-Labs/anything-llm
[4] DeepSeek: https://github.com/deepseek-ai/DeepSeek-R1