微调、训练与数据
Langfuse
langfuse/langfuse
一个开源 LLM 工程平台，用于追踪、评估、调试和改进 AI 应用，并提供提示词管理、数据集、指标、Playground、API，以及托管和自托管部署选项。
★ 32.4K⑂ 3.5KTypeScript
ToolAI.io · GitHub 频道
GitHub 上的新 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
智能体与多智能体
Cognee：面向 AI 智能体的开源持久记忆
topoteretes/cognee
Cognee 是一个基于 Python 的 AI 记忆平台，可将摄取的数据转换为持久化、自托管的知识图谱记忆。它结合向量嵌入、图推理和本体生成，使智能体能够跨会话检索上下文。
★ 29.7K⑂ 2.9KPython
智能体与多智能体
Opik：开源 LLM 可观测性、评估与智能体追踪平台
comet-ml/opik
Opik 是一个采用 Apache-2.0 许可证的平台，用于追踪、评估、调试和监控 LLM 应用、RAG 系统及多步骤智能体工作流。它支持自托管、Comet.com 托管选项、客户端 SDK、REST API、自动化评估、提示词实验和生产仪表板。
★ 21.1K⑂ 1.7KPython
智能体与多智能体
DB-GPT：开源智能体数据助手
eosphoros-ai/db-gpt
DB-GPT 是一个基于 Python 的平台，用于构建和运行 AI 数据助手，可连接结构化与非结构化数据，生成 SQL 和 Python 代码，执行分析工作流，并产出报告、图表、仪表板和摘要。
★ 19.6K⑂ 2.9KPython
智能体与多智能体
OpenCodeReview
alibaba/open-code-review
Alibaba 开源的 AI 代码审查 CLI，结合确定性审查流水线与 LLM Agent，生成结构化的行级反馈。
★ 18K⑂ 1.2KGo
MCP 与工具调用
Composio
composiohq/composio
Composio 是一个开源 SDK monorepo，用于将 AI 智能体连接到超过 1,000 个工具包。它提供工具发现与执行、按用户划分的会话、身份验证、触发器、上下文管理、托管 MCP 端点、提供商适配器、CLI 以及沙箱化工作台。
★ 29.5K⑂ 4.7KTypeScript
智能体与多智能体
MLflow
mlflow/mlflow
一个用于追踪、评估、监控、优化、治理和部署智能体、LLM 应用及机器学习模型的开源 AI 工程平台。
★ 27.3K⑂ 6.1KPython
智能体与多智能体
Zvec：嵌入式、进程内向量数据库
alibaba/zvec
Zvec 是一款采用 Apache-2.0 许可的向量数据库，设计为直接在应用程序内运行。它支持稠密和稀疏向量、全文与混合搜索、结构化过滤、本地持久化存储，以及多种编程语言 SDK。
★ 15.4K⑂ 973C++
智能体与多智能体
txtai：语义搜索、RAG 和语言模型工作流框架
neuml/txtai
txtai 是一个基于 Python 的 AI 框架，用于语义与向量搜索、检索增强生成、LLM 编排、自主智能体及多模态语言模型工作流。
★ 12.8K⑂ 851Python
推理、部署与运行时
Mooncake：以 KVCache 为中心的分布式 LLM 服务基础设施
kvcache-ai/mooncake
Mooncake 是一个面向大规模 LLM 推理和训练的 C++ 基础设施项目。它将预填充、解码和存储资源解耦，并提供高性能数据传输、分布式 KV 缓存存储及具备容错能力的专家并行通信。
★ 6.1K⑂ 1KC++
推理、部署与运行时
GPUStack
gpustack/gpustack
GPUStack 是一款开源 GPU 集群管理器，用于服务 AI 模型并按需提供可通过 SSH 访问的 GPU 实例。它可在本地部署、Kubernetes 和云环境中编排包括 vLLM、SGLang 和 TensorRT-LLM 在内的推理引擎。
★ 5.4K⑂ 604Python
智能体与多智能体
Giskard OSS：用于 AI 智能体的评估、红队测试与测试生成
giskard-ai/giskard-oss
一个用于评估和测试基于 LLM 及智能体系统的开源 Python 库，支持多轮评估、LLM-as-judge 检查和自动化漏洞扫描。
★ 5.7K⑂ 513Python
第 16 / 22 页 · 253 个项目