项目截图
概览
AnythingLLM 是一款功能全面、可自托管的 AI 应用，允许用户构建私有且功能丰富的 AI 助手。它支持连接各种本地或云端 LLM，导入多种文档类型，并利用内置的 RAG（检索增强生成）功能与数据进行对话。该应用设计为高度可配置且达到生产可用标准，内置智能体、多用户支持、向量数据库管理和文档处理流水线，无需复杂的外部配置。该项目由 Mintplex Labs 积极开发，可作为桌面应用程序使用，或通过 Docker 进行自托管部署。
主要功能
- 动态模型路由，自动选择最佳的提供商和模型
- 自动及用户管理的 LLM 记忆功能
- 支持 cron 定时计划且具备完整智能体能力的定时任务
- 智能技能选择，每条查询可减少高达 80% 的 token 消耗
- 无代码 AI 智能体构建器
- 兼容 MCP（模型上下文协议）
- 支持闭源与开源 LLM 的多模态支持
- 支持带权限控制的多用户实例（仅限 Docker 版）
- 用于网站的自定义可嵌入聊天小部件（仅限 Docker 版）
- 支持多种文档类型（PDF、TXT、DOCX 等）
- 提供用于自定义集成的完整开发者 API
要求、安装和快速入门
用法
模型兼容性与使用场景
支持广泛的 LLM，包括 OpenAI、Azure OpenAI、Anthropic、AWS Bedrock、Google Gemini Pro、NVIDIA NIM、Ollama、LM Studio、LocalAI、Together AI、Fireworks AI、Perplexity、OpenRouter、DeepSeek、Mistral、Groq、Cohere、KoboldCPP、LiteLLM、Text Generation Web UI、Apipie、xAI、Z.AI、Novita AI、PPIO、Gitee AI、Moonshot AI、Microsoft Foundry Local、CometAPI、Docker Model Runner、PrivateModeAI、SambaNova Cloud、Lemonade by AMD、Minimax、Cerebras、oMLX 以及任何兼容 llama.cpp 的开源模型。支持的嵌入模型包括 AnythingLLM Native Embedder、OpenAI、Azure OpenAI、Gemini、LocalAI、Ollama、LM Studio、Lemonade、OpenRouter、LiteLLM、Cohere、Voyage AI、Mistral 以及通用的兼容 OpenAI 的 API。支持的向量数据库包括 LanceDB（默认）、PGVector、Astra DB、Pinecone、Chroma、Weaviate、Qdrant、Milvus 和 Zilliz。
许可证与风险说明
该仓库采用 MIT 许可证。
Editorial verification 2026-08-09: repository URL, owner, description, license and repository statistics were reviewed. License metadata: MIT. README was fetched for the channel draft; re-check repository dependencies, releases and model terms before production use.
发布与维护
Not stated in the repository metadata.