智能体与多智能体
Future AGI
future-agi/future-agi
一个开源、可自托管的平台，用于评估、追踪、模拟、保护、路由和优化 LLM 及 AI 智能体应用。
★ 1.7K⑂ 498Python
ToolAI.io · GitHub 频道
GitHub 上的 AI 项目目录
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
推理、部署与运行时
xLLM：面向多类 AI 加速器的高性能推理引擎
xllm-ai/xllm
xLLM 是一个 C++ 推理框架，支持 LLM、VLM、DiT 和 REC 模型。它面向多个 AI 加速器系列提供高吞吐、低延迟部署，并将服务层的调度与可用性职责同引擎层计算分离。
★ 1.5K⑂ 279C++
MCP 与工具调用
Askimo
askimo-ai/askimo
一款原生桌面 AI 客户端，支持聊天、本地 RAG、多步 AI 工作流（Plans）及代理技能，兼容多种云端和本地 LLM 提供商，同时确保用户文件严格保留在本地机器上。
★ 338⑂ 71Kotlin
MCP 与工具调用
NeuroLink
juspay/neurolink
一个 TypeScript 集成平台，提供统一的 API 接入 30+ 家 AI 供应商和 100+ 种模型，支持供应商切换、多模态语音处理、RAG、记忆功能以及 MCP 原生工具集成。
★ 121⑂ 124TypeScript
MCP 与工具调用
comfyui-mcp
artokun/comfyui-mcp
一个本地优先、原生支持代理的 ComfyUI 控制平面，提供 MCP 服务器和侧边栏代理，可跨任何 LLM 使用自然语言生成图像、视频和音频，创建与运行工作流，以及编辑实时图谱。
★ 599⑂ 93TypeScript
智能体与多智能体
models
reyamira/models
一款用于浏览 AI 模型、基准测试、编程代理和提供商状态的 TUI 和 CLI 工具。
★ 492⑂ 19Rust
推理、部署与运行时
memra
avifenesh/memra
一个从零开始使用 Rust 和 CUDA 构建的 LLM 推理引擎，专门针对 RTX 5090 (sm_120a) 和 H100 (sm_90a) 架构进行优化，在不依赖 ggml 等框架的情况下提供精确性约束的性能。
★ 314⑂ 35Rust
智能体与多智能体
LLMix
sno-ai/llmix
一款面向 AI 代理和工具的生产级 LLM 调用层，通过配置驱动的模型预设、缓存、弹性模式及密钥轮换，封装了现有的提供商 SDK，支持 Python、TypeScript 和 Rust。
★ 131⑂ 28Python
智能体与多智能体
1flowbase
taichuy/1flowbase
一款开源 AI 网关，允许本地代理客户端将融合式多模型工作流发布为兼容 OpenAI 和 Claude 的虚拟模型，并提供对追踪、Token、延迟和成本的完全可观测性。
★ 257⑂ 19Rust
MCP 与工具调用
OrchestKit
yonatangross/orchestkit
一款综合性的 AI 开发工具包和 Claude Code 插件，为全栈开发提供生产级模式、专业化智能体和自动化质量门禁。
★ 222⑂ 21TypeScript
RAG 与知识系统
STACKIT RAG 模板
stackitcloud/rag-template
一个使用检索增强生成（RAG）、向量搜索和 FastAPI 构建 AI 聊天机器人和文档管理系统的模板，专为在 Kubernetes 上部署而设计。
★ 86⑂ 10Python
推理、部署与运行时
hal0
hal0ai/hal0
一个开源、自托管的家庭AI推理平台，旨在将Linux设备转变为兼容OpenAI的推理设备，并针对AMD Strix Halo硬件进行了原生优化。
★ 67⑂ 7Python
第 8 / 11 页 · 130 个项目