推理、部署与运行时
hal0
hal0ai/hal0
一个开源、自托管的家庭AI推理平台，旨在将Linux设备转变为兼容OpenAI的推理设备，并针对AMD Strix Halo硬件进行了原生优化。
★ 68⑂ 7Python
ToolAI.io · GitHub 频道
GitHub 上的热门 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
智能体与多智能体
rig
0xplaygrounds/rig
⚙️🦀 Build modular and scalable LLM Applications in Rust
★ 8.3K⑂ 937Rust
MCP 与工具调用
Askimo
askimo-ai/askimo
一款原生桌面 AI 客户端，支持聊天、本地 RAG、多步 AI 工作流（Plans）及代理技能，兼容多种云端和本地 LLM 提供商，同时确保用户文件严格保留在本地机器上。
★ 347⑂ 73Kotlin
智能体与多智能体
second-brain
henrydaum/second-brain
Second Brain is an agentic framework that acts as an operating system, using local file intelligence, workflow automation, and LLMs to complete tasks and communicate over multiple modalities and messaging platforms.
★ 607⑂ 75Python
MCP 与工具调用
awesome-agentic-ai-zh
wenyuchiou/awesome-agentic-ai-zh
A trilingual (繁中 / English / 简中) learning roadmap for agentic AI: from LLM basics to multi-agent systems, with 240+ curated resources and hands-on examples. 中文 AI agent 學習地圖。
★ 6.1K⑂ 814Python
评估、可观测性与安全
garak：LLM vulnerability scanning
NVIDIA/garak
ToolAI 对 NVIDIA/garak 的客观项目介绍。the LLM vulnerability scanner
★ 8.9K⑂ 1.2KPython
MCP 与工具调用
SBproxy
soapbucket/sbproxy
一款使用 Rust 编写的开源、自托管企业级 AI 网关和 LLM 代理，提供兼容 OpenAI 的 API，支持 60 多家提供商及本地模型托管、MCP 工具联邦与强大的流量治理。
★ 49⑂ 1Rust
智能体与多智能体
OpenGeni
cloudgeni-ai/opengeni
一款面向组织的开放、可自托管的智能体运行时，提供持久且可重放的智能体会话、人工审批、受管凭证与记忆，以及灵活的计算目标，包括托管沙箱和接入的用户硬件。
★ 56⑂ 5TypeScript
智能体与多智能体
models
reyamira/models
一款用于浏览 AI 模型、基准测试、编程代理和提供商状态的 TUI 和 CLI 工具。
★ 492⑂ 19Rust
推理、部署与运行时
xLLM：面向多类 AI 加速器的高性能推理引擎
xllm-ai/xllm
xLLM 是一个 C++ 推理框架，支持 LLM、VLM、DiT 和 REC 模型。它面向多个 AI 加速器系列提供高吞吐、低延迟部署，并将服务层的调度与可用性职责同引擎层计算分离。
★ 1.5K⑂ 279C++
智能体与多智能体
Future AGI
future-agi/future-agi
一个开源、可自托管的平台，用于评估、追踪、模拟、保护、路由和优化 LLM 及 AI 智能体应用。
★ 1.7K⑂ 498Python
MCP 与工具调用
comfyui-mcp
artokun/comfyui-mcp
一个本地优先、原生支持代理的 ComfyUI 控制平面，提供 MCP 服务器和侧边栏代理，可跨任何 LLM 使用自然语言生成图像、视频和音频，创建与运行工作流，以及编辑实时图谱。
★ 599⑂ 93TypeScript
第 4 / 11 页 · 126 个项目