【实践笔记02】DeepSeek+Ragflow搭建个人知识库

先说体验感受,利用参数量小的模型借助RAGFlow搭建知识库,有一点点用,但是不多。要想发挥实际作用,对知识库数据的维护需要花很多心思。

一、安装Docker Desktop

由于Docker依赖linux环境,win10以上电脑可以使用wsl来安装linux环境。

什么是WSL?WSL(Windows Subsystem for Linux)是微软开发的一项技术,允许用户在Windows系统中直接运行完整的Linux环境,无需虚拟机。通过操作系统级虚拟化,WSL将Linux子系统无缝嵌入Windows,提供原生Linux命令行工具、软件包管理器及应用程序支持。它具有轻量化、文件系统集成、良好的交互性及开发效率提升等优点,消除了Windows与Linux之间的隔阂,尤其适合开发者和需在Windows平台上使用Linux工具的用户。

1.启用window子系统及虚拟化

【实践笔记02】DeepSeek+Ragflow搭建个人知识库

2.Docker Desktop配置

下载地址:https://www.docker.com/
【实践笔记02】DeepSeek+Ragflow搭建个人知识库

下载完成后,打开安装包一直下一步等待安装结束即可。

【实践笔记02】DeepSeek+Ragflow搭建个人知识库
  • 提示:因为安装完成后镜像很大,默认会安装在C盘,建议更改到其他空闲盘。

打开docker desktop,会自动弹出cmd窗口,启动wsl下载linux,否则无法运行docker。这一步耐心等待即可。安装完成后,可以在我的电脑查看->linux。

【实践笔记02】DeepSeek+Ragflow搭建个人知识库


3.Docker Desktop配置


最新可用的国内镜像源可以百度找找。这里提供几个当前还能用的镜像源。

  “registry-mirrors”: [
    “https://docker-0.unsee.tech”,
    “https://docker.1panel.live”,
    “https://docker.tbedu.top”,
    “https://cr.laoyou.ip-ddns.com”,
    “https://dockerpull.cn”,
    “https://hub.fast360.xyz”
  ]

【实践笔记02】DeepSeek+Ragflow搭建个人知识库


二、部署Ragflow

https://kkgithub.com/infiniflow/ragflow/blob/main/README_zh.md

软硬件条件:

  • CPU >= 4 核
  • RAM >= 16 GB
  • Disk >= 50 GB
  • Docker >= 24.0.0 & Docker Compose >= v2.26.1

1.拉取ragflow

$ git clone https://github.com/infiniflow/ragflow.git

这个过程会比较慢,可以用码云转一下github仓库,拉取速度会快很多。

2.进入docker文件夹,利用提前编译好的Docker镜像启动服务器

由于我们需要用到embedding模型,默认的ragflow镜像不自带embedding,这里需要特别注意要手动修改配置。

【实践笔记02】DeepSeek+Ragflow搭建个人知识库

在拉取的ragflow仓库路径下的docker/.env 文件内的RAGFLOW_IMAGE变量,通过设置RAGFLOW_IMAGE=infiniflow/ragflow:v0.16.0来下载 RAGFlow镜像的 v0.16.0 完整发行版。 在ragflow文件夹下打开cmd窗口运行以下命令:

docker compose -f docker/docker-compose.yml up -d

安装ragflow需要的docker镜像,拉取失败说明docker镜像源有问题,需要自行百度查询可用镜像源重新拉取。

如果你遇到 Docker 镜像拉不下来的问题,可以在 docker/.env 文件内根据变量 RAGFLOW_IMAGE 的注释提示选择华为云或者阿里云的相应镜像。

华为云镜像名:swr.cn-north-4.myhuaweicloud.com/infiniflow/ragflow
阿里云镜像名:registry.cn-hangzhou.aliyuncs.com/infiniflow/ragflow

拉取成功后,在docker desktop里面就能看到镜像源。

【实践笔记02】DeepSeek+Ragflow搭建个人知识库

3.在你的浏览器中输入你的服务器对应的IP地址并登录RAGFlow

默认打开ragflow地址http://localhost:80

【实践笔记02】DeepSeek+Ragflow搭建个人知识库


三、Ragflow使用

登录ragflow,根据图片内容进行配置。需要注意基础Url需要改为ip:端口号,ollama默认端口11434
【实践笔记02】DeepSeek+Ragflow搭建个人知识库

1.知识库配置

创建知识库,这里使用一份一千条中医问答数据作为测试。
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
如图进行创建知识库。
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
嵌入模型选择默认的即可,解析方法比较重要,因为使用的数据是问答形式,所以选择Q&A类型。解析方法有很多种,网页中都有解释,选择合适的解析方法能够让知识库的回答更加准确。
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
点击新增文件,将中医问诊数据集进行进行上传,等待系统解析完成。这个过程会比较慢,错误的解析方法也会导致解析失败。
【实践笔记02】DeepSeek+Ragflow搭建个人知识库

2.创建中医问诊聊天助手

聊天模块选择新建助理,知识库选择上一步新建的中医问诊。
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
模型设置中选择ollama已下载模型,我选择deepseek-r1:32b模型进行测试。每个参数在网站里都有解释,这里自由度设置为精确,尽可能让大模型从知识库里回答问题,减少自由发挥。
【实践笔记02】DeepSeek+Ragflow搭建个人知识库

点击确定,新建聊天。测试一下看看效果吧。

【实践笔记02】DeepSeek+Ragflow搭建个人知识库
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
效果粗略看还可以,聊天助手还可以标注出知识库的来源。
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
如果能够将知识库数据整合处理好,体验效果还是不错的,这只是32b的模型,如果人人都能部署的671b呢?真是对未来充满期待。

3.多测试几个知识库,一起看看效果吧

  • 天龙八部小说:

问题1:

【实践笔记02】DeepSeek+Ragflow搭建个人知识库
问题2:
【实践笔记02】DeepSeek+Ragflow搭建个人知识库
  • 儿科问诊数据一千条:

【实践笔记02】DeepSeek+Ragflow搭建个人知识库
  • 心理学数据一万条:

    【实践笔记02】DeepSeek+Ragflow搭建个人知识库
【实践笔记02】DeepSeek+Ragflow搭建个人知识库


四、最后

  • 利用Deepseek+Ragflow搭建的知识库过程还是比较简单,正常跟着流程走不容易出错。如果投喂的数据经过整合处理,那么反馈的结果还是有一定的实际意义。

  • 当前个人能部署的模型参数太少,尚处于体验阶段。相信不久的将来,大模型不断发展,个人能部署性能更强大的模型。

原文始发于微信公众号(Coderllch):【实践笔记02】DeepSeek+Ragflow搭建个人知识库

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。

文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/315777.html

(0)
小半的头像小半

相关推荐

发表回复

登录后才能评论
极客之音——专业性很强的中文编程技术网站,欢迎收藏到浏览器,订阅我们!