ToolAI.io · GitHub 频道

GitHub 上的热门 AI 项目

一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引;每个条目均包含许可证、设置、下载、截图及相关资源。

公开仓库数据

项目索引

132 项目
OpenGeni 的截图
智能体与多智能体

OpenGeni

cloudgeni-ai/opengeni

一款面向组织的开放、可自托管的智能体运行时,提供持久且可重放的智能体会话、人工审批、受管凭证与记忆,以及灵活的计算目标,包括托管沙箱和接入的用户硬件。

★ 56⑂ 5TypeScript
Apache-2.0Q86
models 的截图
智能体与多智能体

models

reyamira/models

一款用于浏览 AI 模型、基准测试、编程代理和提供商状态的 TUI 和 CLI 工具。

★ 492⑂ 19Rust
MITQ92
推理、部署与运行时

xLLM:面向多类 AI 加速器的高性能推理引擎

xllm-ai/xllm

xLLM 是一个 C++ 推理框架,支持 LLM、VLM、DiT 和 REC 模型。它面向多个 AI 加速器系列提供高吞吐、低延迟部署,并将服务层的调度与可用性职责同引擎层计算分离。

★ 1.5K⑂ 279C++
Apache-2.0Q98
智能体与多智能体

Future AGI

future-agi/future-agi

一个开源、可自托管的平台,用于评估、追踪、模拟、保护、路由和优化 LLM 及 AI 智能体应用。

★ 1.7K⑂ 498Python
Apache-2.0Q98
comfyui-mcp 的截图
MCP 与工具调用

comfyui-mcp

artokun/comfyui-mcp

一个本地优先、原生支持代理的 ComfyUI 控制平面,提供 MCP 服务器和侧边栏代理,可跨任何 LLM 使用自然语言生成图像、视频和音频,创建与运行工作流,以及编辑实时图谱。

★ 599⑂ 93TypeScript
MITQ92
NeuroLink 的截图
MCP 与工具调用

NeuroLink

juspay/neurolink

一个 TypeScript 集成平台,提供统一的 API 接入 30+ 家 AI 供应商和 100+ 种模型,支持供应商切换、多模态语音处理、RAG、记忆功能以及 MCP 原生工具集成。

★ 121⑂ 124TypeScript
MITQ93
推理、部署与运行时

vLLM Ascend

vllm-project/vllm-ascend

一个由社区维护的硬件插件,使 vLLM 能够在受支持的 Ascend NPU 上运行模型推理与服务工作负载。

★ 2.7K⑂ 2.1KC++
Apache-2.0Q98
智能体与多智能体

LangWatch

langwatch/langwatch

一个开放核心平台,用于在发布前及生产环境中评估、测试、追踪和监控 LLM 应用与 AI 智能体。

★ 3.5K⑂ 345TypeScript
Apache-2.0Q98
memra 的截图
推理、部署与运行时

memra

avifenesh/memra

一个从零开始使用 Rust 和 CUDA 构建的 LLM 推理引擎,专门针对 RTX 5090 (sm_120a) 和 H100 (sm_90a) 架构进行优化,在不依赖 ggml 等框架的情况下提供精确性约束的性能。

★ 314⑂ 35Rust
MITQ92
LLM 与基础模型

Bionic GPT

bionic-gpt/bionic-gpt

Bionic 是一个基于 Rust 的本地部署 ChatGPT 替代方案,面向私有生成式 AI 部署。它提供熟悉的聊天界面、本地或远程模型访问、团队控制、检索增强助手、数据集成、可观测性以及面向 Kubernetes 的扩展能力。

★ 2.4K⑂ 239Rust
NOASSERTIONQ98
推理、部署与运行时

any-llm:面向 LLM 提供商的统一 Python 接口

mozilla-ai/any-llm

any-llm 是一个 Python SDK,可通过统一接口与多个 LLM 提供商通信。它支持以较少代码改动切换提供商和模型,并在可用时使用官方提供商 SDK。

★ 2.2K⑂ 211Python
Apache-2.0Q98
微调、训练与数据

aikit

kaito-project/aikit

🏗️ Fine-tune, build, and deploy open-source LLMs easily!

★ 535⑂ 57Go
MITQ94

第 5 / 11 页 · 132 个项目

最近更新

Craft Anythingstorytold/craft-anything★ 27.4K elephant-goldfish-modelgoogle/elephant-goldfish-model★ 15.6K DeepInferdeepseek-ai/DeepInfer★ 25.7K ComfyUIComfy-Org/ComfyUI★ 136.7K CrewAICrewAIInc/crewAI★ 59.5K Microsoft Agent Frameworkmicrosoft/agent-framework★ 14K

星标最多

ECCaffaan-m/ECC★ 248.8K Hermes Agentnousresearch/hermes-agent★ 227.1K tensorflowtensorflow/tensorflow★ 198.8K AutoGPTSignificant-Gravitas/AutoGPT★ 187.1K ollamaollama/ollama★ 180.2K markitdown:Document conversion and extractionmicrosoft/markitdown★ 174.9K