MCP 与工具调用
Lemonade：面向 GPU 和 NPU 推理的本地 AI 服务器
lemonade-sdk/lemonade
Lemonade 是一个开源的本地 AI 服务器，允许用户直接在自己的 GPU 和 NPU 上运行优化的大语言模型（LLM）、语音及图像生成模型，提供了一种免费且私有的云 API 替代方案。
★ 5.2K⑂ 436C++
ToolAI.io · GitHub 频道
GitHub 上的热门 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
智能体与多智能体
Graphiti：为 AI 智能体构建时序上下文图
getzep/graphiti
Graphiti 是由 Zep 开发的一个开源 Python 框架，用于构建和查询时序上下文图。它能自主将结构化和非结构化数据转换为动态知识图，跟踪事实随时间变化的有效性，保留溯源信息，并为 AI 智能体提供混合检索能力。
★ 29.5K⑂ 3KPython
智能体与多智能体
Opik：开源 LLM 可观测性、评估与智能体追踪平台
comet-ml/opik
Opik 是一个采用 Apache-2.0 许可证的平台，用于追踪、评估、调试和监控 LLM 应用、RAG 系统及多步骤智能体工作流。它支持自托管、Comet.com 托管选项、客户端 SDK、REST API、自动化评估、提示词实验和生产仪表板。
★ 21.1K⑂ 1.7KPython
智能体与多智能体
Unsloth：本地模型训练、推理与智能体集成
unslothai/unsloth
Unsloth 是一套基于 Python 的自托管工具包，提供测试版 Web UI 和代码核心，可在本地运行、微调、导出和服务语言、视觉、音频及嵌入模型。
★ 69.4K⑂ 6.3KPython
智能体与多智能体
RAGFlow
infiniflow/ragflow
RAGFlow 是一款开源检索增强生成（RAG）引擎，结合文档摄取、检索、可溯源引用、可配置的语言与嵌入模型以及智能体功能，为 LLM 应用提供上下文。
★ 86.7K⑂ 10.2KGo
推理、部署与运行时
OpenVINO
openvinotoolkit/openvino
用于在边缘到云环境中优化和部署 AI 推理的开源工具包。
★ 10.6K⑂ 3.3KC++
推理、部署与运行时
Mooncake：以 KVCache 为中心的分布式 LLM 服务基础设施
kvcache-ai/mooncake
Mooncake 是一个面向大规模 LLM 推理和训练的 C++ 基础设施项目。它将预填充、解码和存储资源解耦，并提供高性能数据传输、分布式 KV 缓存存储及具备容错能力的专家并行通信。
★ 6.1K⑂ 1KC++
智能体与多智能体
DB-GPT：开源智能体数据助手
eosphoros-ai/db-gpt
DB-GPT 是一个基于 Python 的平台，用于构建和运行 AI 数据助手，可连接结构化与非结构化数据，生成 SQL 和 Python 代码，执行分析工作流，并产出报告、图表、仪表板和摘要。
★ 19.6K⑂ 2.9KPython
MCP 与工具调用
Dify：用于智能体工作流和 RAG 应用的协作平台
langgenius/dify
Dify 是一个 LLM 应用开发平台，用于可视化构建工作流、RAG 管道和可调用工具的智能体。它在协作工作区中整合了模型管理、提示词开发、可观测性和应用 API，可作为托管服务使用或自行托管。
★ 151.2K⑂ 23.9KTypeScript
智能体与多智能体
MLflow
mlflow/mlflow
一个用于追踪、评估、监控、优化、治理和部署智能体、LLM 应用及机器学习模型的开源 AI 工程平台。
★ 27.3K⑂ 6.1KPython
MCP 与工具调用
Composio
composiohq/composio
Composio 是一个开源 SDK monorepo，用于将 AI 智能体连接到超过 1,000 个工具包。它提供工具发现与执行、按用户划分的会话、身份验证、触发器、上下文管理、托管 MCP 端点、提供商适配器、CLI 以及沙箱化工作台。
★ 29.5K⑂ 4.7KTypeScript
微调、训练与数据
Langfuse
langfuse/langfuse
一个开源 LLM 工程平台，用于追踪、评估、调试和改进 AI 应用，并提供提示词管理、数据集、指标、Playground、API，以及托管和自托管部署选项。
★ 32.4K⑂ 3.5KTypeScript
第 14 / 22 页 · 253 个项目