ToolAI.io · GitHub 频道
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
thinkinaixyz/deepchat
DeepChat 是一款开源、本地优先的 AI 智能体桌面客户端，使用 TypeScript 和 Electron 构建。它集成了云端大语言模型、本地模型、MCP 服务、可安装的技能（Skills）、ACP 智能体以及用于消息应用远程控制的功能，遵循 Tape.systems 理念，确保智能体会话可恢复且可检查。
kvcache-ai/mooncake
Mooncake 是一个面向大规模 LLM 推理和训练的 C++ 基础设施项目。它将预填充、解码和存储资源解耦，并提供高性能数据传输、分布式 KV 缓存存储及具备容错能力的专家并行通信。
giskard-ai/giskard-oss
一个用于评估和测试基于 LLM 及智能体系统的开源 Python 库，支持多轮评估、LLM-as-judge 检查和自动化漏洞扫描。
potpie-ai/potpie
Potpie 将代码库和软件开发生命周期转化为供 AI 代理使用的动态上下文图，通过索引代码、结构、决策、源码历史和团队知识，实现具备上下文感知的编码、规划和调试。
gpustack/gpustack
GPUStack 是一款开源 GPU 集群管理器，用于服务 AI 模型并按需提供可通过 SSH 访问的 GPU 实例。它可在本地部署、Kubernetes 和云环境中编排包括 vLLM、SGLang 和 TensorRT-LLM 在内的推理引擎。
lemonade-sdk/lemonade
Lemonade 是一个开源的本地 AI 服务器，允许用户直接在自己的 GPU 和 NPU 上运行优化的大语言模型（LLM）、语音及图像生成模型，提供了一种免费且私有的云 API 替代方案。
embabel/embabel-agent
Embabel 是一个开源 JVM 框架，用于构建强类型智能体应用，将 LLM 交互、常规代码、工具和领域模型结合起来。它支持动态规划，可通过 Kotlin 或 Java 使用。
homeassistant-ai/ha-mcp
一个功能全面的模型上下文协议（MCP）服务器，使 AI 助手能够通过自然语言与 Home Assistant 智能家居系统进行交互、配置、构建和调试。
opencsgs/csghub
CSGHub 是一个开源的本地化部署平台，用于管理大语言模型资产的全生命周期，包括模型、数据集、空间和代码，提供类似于私有化 Hugging Face 的功能。
oomol-lab/open-connector
一个开源认证网关，通过 SDK、CLI、MCP、HTTP 和 OpenAPI 接口将 1,000 多个 SaaS 服务商连接到 AI 代理。
openagents-org/openagents
一个开源平台，为 AI 智能体提供协作式操作系统，支持统一工作区管理、多智能体协调和网络集成，且无供应商锁定。
llm-d/llm-d
llm-d 是一个开源服务栈，围绕 vLLM 和 SGLang 等模型服务器提供分布式编排、路由、缓存管理、自动扩缩容和批处理能力。它面向 Kubernetes 和现代硬件加速器上的大规模生产推理。
第 6 / 11 页 · 130 个项目
