ToolAI.io · GitHub 频道

GitHub 上的开源 AI 项目

一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引;每个条目均包含许可证、设置、下载、截图及相关资源。

公开仓库数据

项目索引

130 项目
DeepChat - 开源本地优先的 AI 智能体桌面客户端 的截图
MCP 与工具调用

DeepChat - 开源本地优先的 AI 智能体桌面客户端

thinkinaixyz/deepchat

DeepChat 是一款开源、本地优先的 AI 智能体桌面客户端,使用 TypeScript 和 Electron 构建。它集成了云端大语言模型、本地模型、MCP 服务、可安装的技能(Skills)、ACP 智能体以及用于消息应用远程控制的功能,遵循 Tape.systems 理念,确保智能体会话可恢复且可检查。

★ 6.2K⑂ 712TypeScript
Apache-2.0Q98
推理、部署与运行时

Mooncake:以 KVCache 为中心的分布式 LLM 服务基础设施

kvcache-ai/mooncake

Mooncake 是一个面向大规模 LLM 推理和训练的 C++ 基础设施项目。它将预填充、解码和存储资源解耦,并提供高性能数据传输、分布式 KV 缓存存储及具备容错能力的专家并行通信。

★ 6.1K⑂ 1KC++
Apache-2.0Q98
Potpie 的截图
智能体与多智能体

Potpie

potpie-ai/potpie

Potpie 将代码库和软件开发生命周期转化为供 AI 代理使用的动态上下文图,通过索引代码、结构、决策、源码历史和团队知识,实现具备上下文感知的编码、规划和调试。

★ 5.5K⑂ 642Python
Apache-2.0Q98
推理、部署与运行时

GPUStack

gpustack/gpustack

GPUStack 是一款开源 GPU 集群管理器,用于服务 AI 模型并按需提供可通过 SSH 访问的 GPU 实例。它可在本地部署、Kubernetes 和云环境中编排包括 vLLM、SGLang 和 TensorRT-LLM 在内的推理引擎。

★ 5.4K⑂ 604Python
Apache-2.0Q98
Lemonade:面向 GPU 和 NPU 推理的本地 AI 服务器 的截图
MCP 与工具调用

Lemonade:面向 GPU 和 NPU 推理的本地 AI 服务器

lemonade-sdk/lemonade

Lemonade 是一个开源的本地 AI 服务器,允许用户直接在自己的 GPU 和 NPU 上运行优化的大语言模型(LLM)、语音及图像生成模型,提供了一种免费且私有的云 API 替代方案。

★ 5.2K⑂ 436C++
Apache-2.0Q98
智能体与多智能体

Embabel Agent Framework

embabel/embabel-agent

Embabel 是一个开源 JVM 框架,用于构建强类型智能体应用,将 LLM 交互、常规代码、工具和领域模型结合起来。它支持动态规划,可通过 Kotlin 或 Java 使用。

★ 4.3K⑂ 417Kotlin
Apache-2.0Q98
ha-mcp:非官方 Home Assistant MCP 服务器 的截图
MCP 与工具调用

ha-mcp:非官方 Home Assistant MCP 服务器

homeassistant-ai/ha-mcp

一个功能全面的模型上下文协议(MCP)服务器,使 AI 助手能够通过自然语言与 Home Assistant 智能家居系统进行交互、配置、构建和调试。

★ 4.3K⑂ 177Python
MITQ98
CSGHub:开源大语言模型资产管理平台 的截图
智能体与多智能体

CSGHub:开源大语言模型资产管理平台

opencsgs/csghub

CSGHub 是一个开源的本地化部署平台,用于管理大语言模型资产的全生命周期,包括模型、数据集、空间和代码,提供类似于私有化 Hugging Face 的功能。

★ 4.2K⑂ 525Vue
Apache-2.0Q98
OpenConnector 的截图
MCP 与工具调用

OpenConnector

oomol-lab/open-connector

一个开源认证网关,通过 SDK、CLI、MCP、HTTP 和 OpenAPI 接口将 1,000 多个 SaaS 服务商连接到 AI 代理。

★ 4.1K⑂ 311TypeScript
Apache-2.0Q98
OpenAgents 的截图
智能体与多智能体

OpenAgents

openagents-org/openagents

一个开源平台,为 AI 智能体提供协作式操作系统,支持统一工作区管理、多智能体协调和网络集成,且无供应商锁定。

★ 4K⑂ 403TypeScript
Apache-2.0Q98
推理、部署与运行时

llm-d:在 Kubernetes 上进行分布式 LLM 推理

llm-d/llm-d

llm-d 是一个开源服务栈,围绕 vLLM 和 SGLang 等模型服务器提供分布式编排、路由、缓存管理、自动扩缩容和批处理能力。它面向 Kubernetes 和现代硬件加速器上的大规模生产推理。

★ 4K⑂ 649Shell
Apache-2.0Q98

第 6 / 11 页 · 130 个项目

最近更新

qwen-code:Command-line coding agentQwenLM/qwen-code★ 27.1K SBproxysoapbucket/sbproxy★ 49 XERJxerj-org/xerj★ 1.4K PwrAgentpwrdrvr/pwragent★ 29 OpenGenicloudgeni-ai/opengeni★ 56 NemoClaw:Agent runtime and deployment toolingNVIDIA/NemoClaw★ 22.2K

星标最多

Hermes Agentnousresearch/hermes-agent★ 227.1K markitdown:Document conversion and extractionmicrosoft/markitdown★ 174.3K skills:Reusable agent skills and workflowsanthropics/skills★ 170.1K Hugging Face Transformershuggingface/transformers★ 163.3K Firecrawlfirecrawl/firecrawl★ 161.1K LangChainlangchain-ai/langchain★ 143.6K