智能体与多智能体
Cognee：面向 AI 智能体的开源持久记忆
topoteretes/cognee
Cognee 是一个基于 Python 的 AI 记忆平台，可将摄取的数据转换为持久化、自托管的知识图谱记忆。它结合向量嵌入、图推理和本体生成，使智能体能够跨会话检索上下文。
★ 29.7K⑂ 2.9KPython
ToolAI.io · GitHub 频道
GitHub 上的热门 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
推理、部署与运行时
llm-d：在 Kubernetes 上进行分布式 LLM 推理
llm-d/llm-d
llm-d 是一个开源服务栈，围绕 vLLM 和 SGLang 等模型服务器提供分布式编排、路由、缓存管理、自动扩缩容和批处理能力。它面向 Kubernetes 和现代硬件加速器上的大规模生产推理。
★ 4K⑂ 649Shell
智能体与多智能体
OpenCodeReview
alibaba/open-code-review
Alibaba 开源的 AI 代码审查 CLI，结合确定性审查流水线与 LLM Agent，生成结构化的行级反馈。
★ 18K⑂ 1.2KGo
智能体与多智能体
AionUi
iofficeai/aionui
AionUi 被描述为一款免费、本地运行的开源协作应用，用于配合 OpenClaw、Hermes Agent、Claude Code、Codex、OpenCode、Gemini CLI 以及 20 多种其他 CLI 工具使用。
★ 31.3K⑂ 3.2KTypeScript
智能体与多智能体
Giskard OSS：用于 AI 智能体的评估、红队测试与测试生成
giskard-ai/giskard-oss
一个用于评估和测试基于 LLM 及智能体系统的开源 Python 库，支持多轮评估、LLM-as-judge 检查和自动化漏洞扫描。
★ 5.7K⑂ 513Python
MCP 与工具调用
Bifrost AI 网关
maximhq/bifrost
Bifrost 是一个基于 Go 的 AI 网关，为 23+ 家 AI 提供商提供统一的、兼容 OpenAI 的 API。它支持路由、故障转移、负载均衡、语义缓存、治理、可观测性、多模态请求、插件和模型上下文协议集成。
★ 7K⑂ 984Go
智能体与多智能体
Zvec：嵌入式、进程内向量数据库
alibaba/zvec
Zvec 是一款采用 Apache-2.0 许可的向量数据库，设计为直接在应用程序内运行。它支持稠密和稀疏向量、全文与混合搜索、结构化过滤、本地持久化存储，以及多种编程语言 SDK。
★ 15.4K⑂ 973C++
微调、训练与数据
Oumi：开源基础模型训练、评估、推理与部署平台
oumi-ai/oumi
Oumi 是一个基于 Python 的平台，用于数据准备、开放权重基础模型训练与微调、结果评估、推理运行和模型部署。它提供配置配方及统一 CLI，支持本地、集群和云端工作流。
★ 9.4K⑂ 784Python
推理、部署与运行时
GPUStack
gpustack/gpustack
GPUStack 是一款开源 GPU 集群管理器，用于服务 AI 模型并按需提供可通过 SSH 访问的 GPU 实例。它可在本地部署、Kubernetes 和云环境中编排包括 vLLM、SGLang 和 TensorRT-LLM 在内的推理引擎。
★ 5.4K⑂ 604Python
MCP 与工具调用
MemPalace
mempalace/mempalace
一个本地优先的开源 AI 记忆系统，将对话历史和项目文件以逐字文本形式存储以供语义检索，在 LongMemEval 上实现了 96.6% 的 R@5，且无需 LLM 或 API 调用。
★ 58K⑂ 7.5KPython
智能体与多智能体
PageIndex：面向长文档的无向量、推理式 RAG
vectifyai/pageindex
PageIndex 是一个 Python 项目，用于创建层级化文档索引，并在不使用向量数据库或人工分块的情况下执行基于推理的检索。它支持对 PDF 和 Markdown 文档进行自托管处理，并提供可选的智能体 RAG 示例及托管 MCP/API 服务。
★ 35K⑂ 3.1KPython
智能体与多智能体
txtai：语义搜索、RAG 和语言模型工作流框架
neuml/txtai
txtai 是一个基于 Python 的 AI 框架，用于语义与向量搜索、检索增强生成、LLM 编排、自主智能体及多模态语言模型工作流。
★ 12.8K⑂ 851Python
第 15 / 22 页 · 253 个项目