RAG 与知识系统

STACKIT RAG 模板

stackitcloud/rag-template

一个使用检索增强生成(RAG)、向量搜索和 FastAPI 构建 AI 聊天机器人和文档管理系统的模板,专为在 Kubernetes 上部署而设计。

★ 86星级
⑂ 10Fork 数
45未解决的问题
Python语言
Apache-2.0许可证
Q@project.QualityScore编辑评分

项目截图

STACKIT RAG 模板 的截图 STACKIT RAG 模板 的截图

概览

STACKIT RAG 模板为开发和部署 AI 驱动的应用程序提供了全面的架构。它包含用于文档提取、管理和 RAG 支持的聊天的多个微服务,以及前端界面。该系统集成了向量数据库以进行语义搜索,S3 用于对象存储,Langfuse 用于监控。它支持使用 Tilt 和 k3d 的本地开发环境,以及 Kubernetes 集群上的生产部署。

主要功能

  • 具有跨 Docling、MarkItDown 和自定义提取器自动回退链的文档管理
  • 支持多个 LLM 和嵌入器提供商(STACKIT、Ollama)
  • 用于标准化 AI 助手集成的模型上下文协议(MCP)服务器
  • 集成 Langfuse 用于追踪、监控和分析
  • S3 对象存储集成
  • 用于安全访问的基本身份验证
  • 使用 Helm 图表的 Kubernetes 就绪部署
  • 使用 Tilt 和 k3d 并支持调试模式的本地开发设置

要求、安装和快速入门

1. 安装先决条件:k3d、helm 和 tilt。
2. 克隆仓库。
3. 将 `.env.template` 复制到 `.env` 并填写所需的值(基本身份验证、S3 凭证、Langfuse 密钥、可选的 LLM API 密钥)。
4. 构建 helm 图表依赖项:`cd infrastructure/rag; helm dependency update; cd ../..`
5. 使用 Tilt 启动本地集群:`tilt up`(用于生产模式)或 `tilt up -- --dev=true`(用于带有代码实时更新的开发模式)。

用法

部署后,通过配置的 ingress 访问 WebUI。使用管理应用界面上传文档或连接 Confluence 空间。文档处理并存储在向量数据库中后,使用聊天应用界面就您的文档提问。要进行调试,请使用 `tilt up -- --debug=true --dev=true` 启动 Tilt,并在指定端口上附加如带有 debugpy 的 VS Code 等调试器。

模型兼容性与使用场景

通过 STACKIT 模型服务支持兼容 OpenAI 的 LLM,并支持 Ollama 作为 LLM 提供商。

许可证与风险说明

Apache-2.0

Editorial verification 2026-08-02: repository URL, owner, description, license and repository statistics were reviewed. License metadata: Apache-2.0. README was fetched for the channel draft; re-check repository dependencies, releases and model terms before production use.

发布与维护

Not stated in the repository metadata

LanceDB

lancedb/lancedb

★ 11.1KRust

EvalScope

modelscope/evalscope

★ 3.2KPython

Infino

infino-ai/infino

★ 67Rust