* 戳上方蓝字“开源先锋”关注我
推荐阅读:
《20.5K star!几分钟就能设计一个可视化爬虫的开源项目,高效、免费、无广告!》
大家好,我是开源君!
自从去年 ChatGPT 出现以来,各大公司都在想尽一切办法全力拥抱AI,研究各种自己的大模型,生怕会被对手落下。
今天逛Github,发现一个最近两天非常热门的开源项目 – FreeAskInternet
,star数在狂涨,仅仅几天时间已经有5K+star了。
项目简介
FreeAskInternet
是一个完全免费、私密且在本地运行的搜索聚合器和答案生成器(即问答AI工具),使用LLM技术,无需GPU。
我们可以直接可以进行提问,项目将使用searxng进行多引擎搜索,并将搜索结果与ChatGPT3.5 LLM结合,基于搜索结果生成答案。
所有过程在本地运行,可以完全不需要GPU或OpenAI或Google API密钥。
这个项目4月初才开源,短短数天的时间就已经有5.6k star了,并且在持续的增加。
功能特性
-
完全免费(无需任何API密钥) -
完全本地(不需要GPU,任何计算机都可以运行) -
完全私密(所有都在本地运行,使用定制llm) -
不使用LLM硬件(无需GPU) -
使用免费ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM) API(无需API密钥) -
支持自定义LLM(ollama,llama.cpp) -
使用Docker Compose快速部署和易于操作 -
网页和移动设备友好界面,设计用于Web搜索增强AI聊天,可轻松从任何设备访问。
工作原理
-
1、项目在FreeAskInternet UI界面(在本地运行)中接收用户输入的问题,并调用searxng(在本地运行)在多个搜索引擎上进行搜索。 -
2、爬取搜索结果链接内容并传递给ChatGPT3.5 / Kimi / Qwen / ZhipuAI / ollama(使用自定义llm),请LLM根据这些内容作为参考回答用户问题。 -
3、将答案流式传输到Chat UI。 -
4、项目支持自定义LLM设置,从理论上来说支持无限的llm。
项目安装部署
部署方式也很简单,官方推荐使用docker
git clone https://github.com/nashsu/FreeAskInternet.git
cd ./FreeAskInternet
docker-compose up -d
然后浏览器里打开下面这个地址即可:
http://localhost:3000
项目展示
首页
基于搜索的聊天对话
相关设置界面,支持ChatGPT3.5 / Qwen / Kimi / ZhipuAI(GLM)api,自定义LLM,本地 ollama等模型
关于如何获取和设置 Kimi / Qwen / ZhipuAI 的api,官方建议参考这个项目:https://github.com/LLM-Red-Team/kimi-free-api
关于如何使用自定义的LLM,比如ollama:
1、启动ollama 服务
export OLLAMA_HOST=0.0.0.0
ollama serve
FreeAskInternet
是一款集免费、本地、隐私、强大搜索和智能问答于一身的实用工具。它打破了传统搜索引擎的局限,让你能够更加高效地获取信息。
更多项目细节功能,感兴趣的小伙伴自行到项目地址进行查看。
项目地址:
https://github.com/nashsu/FreeAskInternet
原文始发于微信公众号(开源先锋):短短数天收获 5.6K star,本地搭建属于你自己的AI搜索引擎,太强了!
版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容, 请发送邮件至 举报,一经查实,本站将立刻删除。
文章由极客之音整理,本文链接:https://www.bmabk.com/index.php/post/274602.html