https://github.com/Mintplex-Labs/anything-llm
Github项目详情见【阅读原文】
项目简介
AnythingLLM 是一个全栈应用程序，允许用户将任何文档、资源（如网址链接、音频、视频）或内容片段转化为上下文，使得LLM在对话中能够智能地使用这些参考资料。
AnythingLLM 允许用户使用商业或开源的大型语言模型（LLM）和向量数据库（Vector Database）来构建一个私人的ChatGPT，可以本地运行或远程托管，并且能够智能地与提供的任何文档进行对话。
它支持多用户管理、权限配置，并且易于设置，无需复杂的安装过程。
项目特点
-
特点：多用户支持、内置代理、自定义聊天小部件、多种文档类型兼容、简洁的用户界面管理文档和向量数据库、双聊天模式等。 -
支持的模型：兼容多种开源和商业LLM、嵌入模型、转录模型和向量数据库。 -
技术概览：包含前端、服务器和Docker部署指南的单体仓库。 -
自托管：提供多种部署选项，包括Docker、AWS、GCP、Digital Ocean和Render.com等。 -
了解更多：访问useanything.com[1]获取更多信息。
使用场景
AnythingLLM 可以用于多种场景，包括但不限于：
-
个人助理：通过聊天与个人文档交互，获取信息。 -
企业知识管理：构建企业内部的智能问答系统，提高工作效率。 -
教育和研究：利用AI与学术资料进行互动，辅助学习。 -
多用户协作：支持多用户管理和权限分配，适合团队协作。
使用方法
-
安装和部署：
-
桌面版：访问 useanything.com[2] 下载适用于Mac, Windows, 和 Linux的桌面应用程序。 -
Docker：遵循 Docker 使用指南[3] 进行部署。
-
创建和管理文档：
-
AnythingLLM 将文档分为称为 workspaces（工作区）的对象。工作区类似于线程，并且可以包含文档的容器化。 -
通过简单的用户界面管理向量数据库中的文档。
-
选择LLM和嵌入模型：
-
支持多种开源和商业LLM，包括但不限于OpenAI、Azure OpenAI、Anthropic等。 -
支持多种嵌入模型和转录模型。
-
聊天模式：
-
有两种聊天模式： conversation（对话）和query（查询）。对话模式保留之前的问题和修正，而查询模式是针对文档的简单问答。
-
自定义和集成：
-
提供自定义嵌入聊天窗口，可以嵌入到你的网站中。 -
提供完整的开发者API，用于自定义集成。
-
开发设置：
-
使用 yarn setup命令填充所需的.env文件。 -
使用 yarn dev:server启动本地服务器。 -
使用 yarn dev:frontend启动本地前端。 -
使用 yarn dev:collector运行文档收集器。
-
遥测和隐私：
-
AnythingLLM 包含一个遥测特性，用于收集匿名使用信息，以帮助改进产品。 -
可以通过设置 DISABLE_TELEMETRY为 “true” 来选择退出遥测。
技术概览
技术栈
-
frontend：使用 viteJS + React 的前端，用于创建和管理LLM可以使用的内容。 -
server：NodeJS express 服务器，处理所有交互，进行向量数据库管理和LLM交互。 -
docker：Docker 指令和构建过程，以及从源代码构建的信息。 -
collector：NodeJS express 服务器，用于从UI处理和解析文档。
支持的LLM
包括但不限于：
-
任何与llama.cpp兼容的开源模型 -
OpenAI -
Azure OpenAI -
Anthropic -
Google Gemini Pro -
Hugging Face -
Ollama -
LM Studio -
LocalAi -
Together AI -
Perplexity -
OpenRouter -
Mistral -
Groq -
Cohere -
KoboldCPP -
Text Generation Web UI
支持的嵌入模型和转录模型也包括OpenAI、Azure OpenAI、LocalAi、Ollama、LM Studio和Cohere等。
支持的向量数据库
-
LanceDB -
Astra DB -
Pinecone -
Chroma -
Weaviate -
QDrant -
Milvus -
Zilliz
注：本文内容仅供参考，具体项目特性请参照官方 GitHub 页面的最新说明。
欢迎关注&点赞&在看，感谢阅读~
官网地址: https://useanything.com
[2]
下载地址: https://useanything.com/download
[3]
Docker 使用指南: https://github.com/Mintplex-Labs/anything-llm/blob/master/docker/HOW_TO_USE_DOCKER.md
原文始发于微信公众号（AIGC创想者）：AnythingLLM：14.1K+ Star！一个全栈应用程序，允许用户将任何文档、资源或内容片段转化为上下文，并支持智能对话
版权声明：本文内容由互联网用户自发贡献，该文观点仅代表作者本人。本站仅提供信息存储空间服务，不拥有所有权，不承担相关法律责任。如发现本站有涉嫌侵权/违法违规的内容， 请发送邮件至 举报，一经查实，本站将立刻删除。
文章由极客之音整理，本文链接：https://www.bmabk.com/index.php/post/315521.html
