项目截图
概览
STACKIT RAG 模板为开发和部署 AI 驱动的应用程序提供了全面的架构。它包含用于文档提取、管理和 RAG 支持的聊天的多个微服务,以及前端界面。该系统集成了向量数据库以进行语义搜索,S3 用于对象存储,Langfuse 用于监控。它支持使用 Tilt 和 k3d 的本地开发环境,以及 Kubernetes 集群上的生产部署。
主要功能
- 具有跨 Docling、MarkItDown 和自定义提取器自动回退链的文档管理
- 支持多个 LLM 和嵌入器提供商(STACKIT、Ollama)
- 用于标准化 AI 助手集成的模型上下文协议(MCP)服务器
- 集成 Langfuse 用于追踪、监控和分析
- S3 对象存储集成
- 用于安全访问的基本身份验证
- 使用 Helm 图表的 Kubernetes 就绪部署
- 使用 Tilt 和 k3d 并支持调试模式的本地开发设置
要求、安装和快速入门
1. 安装先决条件:k3d、helm 和 tilt。
2. 克隆仓库。
3. 将 `.env.template` 复制到 `.env` 并填写所需的值(基本身份验证、S3 凭证、Langfuse 密钥、可选的 LLM API 密钥)。
4. 构建 helm 图表依赖项:`cd infrastructure/rag; helm dependency update; cd ../..`
5. 使用 Tilt 启动本地集群:`tilt up`(用于生产模式)或 `tilt up -- --dev=true`(用于带有代码实时更新的开发模式)。
2. 克隆仓库。
3. 将 `.env.template` 复制到 `.env` 并填写所需的值(基本身份验证、S3 凭证、Langfuse 密钥、可选的 LLM API 密钥)。
4. 构建 helm 图表依赖项:`cd infrastructure/rag; helm dependency update; cd ../..`
5. 使用 Tilt 启动本地集群:`tilt up`(用于生产模式)或 `tilt up -- --dev=true`(用于带有代码实时更新的开发模式)。
用法
部署后,通过配置的 ingress 访问 WebUI。使用管理应用界面上传文档或连接 Confluence 空间。文档处理并存储在向量数据库中后,使用聊天应用界面就您的文档提问。要进行调试,请使用 `tilt up -- --debug=true --dev=true` 启动 Tilt,并在指定端口上附加如带有 debugpy 的 VS Code 等调试器。
模型兼容性与使用场景
通过 STACKIT 模型服务支持兼容 OpenAI 的 LLM,并支持 Ollama 作为 LLM 提供商。
许可证与风险说明
Apache-2.0
Editorial verification 2026-08-02: repository URL, owner, description, license and repository statistics were reviewed. License metadata: Apache-2.0. README was fetched for the channel draft; re-check repository dependencies, releases and model terms before production use.
发布与维护
Not stated in the repository metadata