最近很多人都在说如何部署一套本地的知识库，今天正好用自己的电脑部署一套anything LLm+deepseek-r1:8B的资本地知识库。
安装比较非常简单，小白也可以。
机器要求
win机器要求
-
• CPU：8核以上，推荐使用Intel Core i7或AMD Ryzen 7及以上型号。 -
• 内存：至少16GB，推荐32GB以上。 -
• 存储：至少8GB的硬盘空间，建议使用1TB NVMe SSD以加快模型加载速度。 -
• 显卡：推荐使用具有8GB显存的NVIDIA显卡，如NVIDIA RTX 3070或4060。
mac机器要求：
-
• CPU：M1 Pro/Max 以上型号电脑，至少8核。 -
• 内存：最低16GB或以上。 -
• 存储：至少50GB的可用空间，建议100GB以上。 -
• 显卡：没得选！
部署deepseek
这里我们用的还是ollama，安装了一个8B的大模型。
安装ollama官方地址，参考：
https://ollama.com/
安装完成后直接在命令框中输入下面的命令，就会去远程下载deepseek8b的大模型了。
ollama run deepseek-r1:8b等待模型下载完毕即可。
安装并配置anything LLM
anythinLLM作为目前很受欢迎的知识库，使用起来也比较方便，一键安装即可。
第一步：下载并安装LLM
官方地址：
https://anythingllm.com/
按照要求直接一键安装运行即可。打开anything LLm，直接按照官方要求进行文件配置。
第二步：配置对应大模型
我们选择ollama，这时候会自动选择我们本机的大模型deepseek-r1:8b。
第三步：选择配置工作区
在工作区输入你要保存的文件地址。
第四步：上传知识库文件
这时候，界面就会现在“upload a document”字样，我们上传知识库文件即可。
第五步：上传文档，并move to workspace。
这个时候文件就会移动到右侧的knowledge里面了。点击save and embed 做向量化处理。
第六步：其他功能
写在后面的话
就这样，在本地部署了一套知识库，但是效果到底怎么样呢？我们下一篇文章就会给出不同的文件的检索效果。
我叫大瑜，1个十年工作经验的程序员，AI工具和AI技术的实践者。
关注我，了解更多AI知识。
原文始发于微信公众号（大瑜聊AI）：Deepseek+anythingLLM部署大模型本地知识库
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
文章由极客之音整理，本文链接：https://www.bmabk.com/index.php/post/313680.html
