推理、部署与运行时
Hugging Face Transformers
huggingface/transformers
一个面向文本、视觉、音频和多模态领域最先进机器学习模型的模型定义框架，同时支持推理和训练。
★ 163.3K⑂ 34.1KPython
ToolAI.io · GitHub 频道
GitHub 上的新 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
智能体与多智能体
Hermes Agent
nousresearch/hermes-agent
由 Nous Research 构建的自改进 AI 智能体，具备闭环学习、多平台消息集成以及灵活的模型提供商切换功能。设计用于在低成本 VPS、GPU 集群或无服务器基础设施上运行。
★ 227.1K⑂ 44.4KPython
智能体与多智能体
PageIndex：面向长文档的无向量、推理式 RAG
vectifyai/pageindex
PageIndex 是一个 Python 项目，用于创建层级化文档索引，并在不使用向量数据库或人工分块的情况下执行基于推理的检索。它支持对 PDF 和 Markdown 文档进行自托管处理，并提供可选的智能体 RAG 示例及托管 MCP/API 服务。
★ 35K⑂ 3.1KPython
智能体与多智能体
RAGFlow
infiniflow/ragflow
RAGFlow 是一款开源检索增强生成（RAG）引擎，结合文档摄取、检索、可溯源引用、可配置的语言与嵌入模型以及智能体功能，为 LLM 应用提供上下文。
★ 86.7K⑂ 10.2KGo
智能体与多智能体
AionUi
iofficeai/aionui
AionUi 被描述为一款免费、本地运行的开源协作应用，用于配合 OpenClaw、Hermes Agent、Claude Code、Codex、OpenCode、Gemini CLI 以及 20 多种其他 CLI 工具使用。
★ 31.3K⑂ 3.2KTypeScript
MCP 与工具调用
Bifrost AI 网关
maximhq/bifrost
Bifrost 是一个基于 Go 的 AI 网关，为 23+ 家 AI 提供商提供统一的、兼容 OpenAI 的 API。它支持路由、故障转移、负载均衡、语义缓存、治理、可观测性、多模态请求、插件和模型上下文协议集成。
★ 7K⑂ 984Go
智能体与多智能体
Unsloth：本地模型训练、推理与智能体集成
unslothai/unsloth
Unsloth 是一套基于 Python 的自托管工具包，提供测试版 Web UI 和代码核心，可在本地运行、微调、导出和服务语言、视觉、音频及嵌入模型。
★ 69.4K⑂ 6.3KPython
推理、部署与运行时
OpenVINO
openvinotoolkit/openvino
用于在边缘到云环境中优化和部署 AI 推理的开源工具包。
★ 10.6K⑂ 3.3KC++
微调、训练与数据
Oumi：开源基础模型训练、评估、推理与部署平台
oumi-ai/oumi
Oumi 是一个基于 Python 的平台，用于数据准备、开放权重基础模型训练与微调、结果评估、推理运行和模型部署。它提供配置配方及统一 CLI，支持本地、集群和云端工作流。
★ 9.4K⑂ 784Python
微调、训练与数据
Langfuse
langfuse/langfuse
一个开源 LLM 工程平台，用于追踪、评估、调试和改进 AI 应用，并提供提示词管理、数据集、指标、Playground、API，以及托管和自托管部署选项。
★ 32.4K⑂ 3.5KTypeScript
智能体与多智能体
Cognee：面向 AI 智能体的开源持久记忆
topoteretes/cognee
Cognee 是一个基于 Python 的 AI 记忆平台，可将摄取的数据转换为持久化、自托管的知识图谱记忆。它结合向量嵌入、图推理和本体生成，使智能体能够跨会话检索上下文。
★ 29.7K⑂ 2.9KPython
智能体与多智能体
Opik：开源 LLM 可观测性、评估与智能体追踪平台
comet-ml/opik
Opik 是一个采用 Apache-2.0 许可证的平台，用于追踪、评估、调试和监控 LLM 应用、RAG 系统及多步骤智能体工作流。它支持自托管、Comet.com 托管选项、客户端 SDK、REST API、自动化评估、提示词实验和生产仪表板。
★ 21.1K⑂ 1.7KPython
第 5 / 11 页 · 130 个项目