ToolAI.io · GitHub 频道

GitHub 上的热门 AI 项目

一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。

热门标签智能体 LLM RAG MCP 编程推理工具调用嵌入向量向量数据库多模态微调评估打开源代码自托管 Python TypeScript Rust 语音视觉工作流

搜索仓库

公开仓库数据

项目索引

75 项目

推理、部署与运行时

any-llm：面向 LLM 提供商的统一 Python 接口

mozilla-ai/any-llm

any-llm 是一个 Python SDK，可通过统一接口与多个 LLM 提供商通信。它支持以较少代码改动切换提供商和模型，并在可用时使用官方提供商 SDK。

★ 2.2K⑂ 211Python

Apache-2.0Q98

MCP 与工具调用

Askimo

askimo-ai/askimo

一款原生桌面 AI 客户端，支持聊天、本地 RAG、多步 AI 工作流（Plans）及代理技能，兼容多种云端和本地 LLM 提供商，同时确保用户文件严格保留在本地机器上。

★ 334⑂ 71Kotlin

AGPL-3.0Q94

推理、部署与运行时

xLLM：面向多类 AI 加速器的高性能推理引擎

xllm-ai/xllm

xLLM 是一个 C++ 推理框架，支持 LLM、VLM、DiT 和 REC 模型。它面向多个 AI 加速器系列提供高吞吐、低延迟部署，并将服务层的调度与可用性职责同引擎层计算分离。

★ 1.5K⑂ 279C++

Apache-2.0Q98

MCP 与工具调用

NeuroLink

juspay/neurolink

一个 TypeScript 集成平台，提供统一的 API 接入 30+ 家 AI 供应商和 100+ 种模型，支持供应商切换、多模态语音处理、RAG、记忆功能以及 MCP 原生工具集成。

★ 121⑂ 124TypeScript

MITQ93

智能体与多智能体

Alith

0xlazai/alith

一个简单、可组合且高性能的 AI 智能体框架，专为 Web3 和 Crypto 设计，使开发者能够通过多语言支持和 LazAI Gateway 集成来构建、部署和管理链上 AI 智能体。

★ 44⑂ 31Rust

Apache-2.0Q88

MCP 与工具调用

Metronix Memory

mtrnix/metronix-memory

面向 AI 代理的自托管内存基础设施，具备 MCP 原生集成、混合 RAG、时序知识图谱和本体层，专为本地模型友好性及持久的、代理作用域上下文而设计。

★ 39⑂ 7Python

Apache-2.0Q86

智能体与多智能体

LLMix

sno-ai/llmix

一款面向 AI 代理和工具的生产级 LLM 调用层，通过配置驱动的模型预设、缓存、弹性模式及密钥轮换，封装了现有的提供商 SDK，支持 Python、TypeScript 和 Rust。

★ 131⑂ 28Python

Apache-2.0Q91

RAG 与知识系统

STACKIT RAG 模板

stackitcloud/rag-template

一个使用检索增强生成（RAG）、向量搜索和 FastAPI 构建 AI 聊天机器人和文档管理系统的模板，专为在 Kubernetes 上部署而设计。

★ 86⑂ 10Python

Apache-2.0Q89

智能体与多智能体

SkillOpt：Skill optimization for agents

microsoft/SkillOpt

ToolAI 对 microsoft/SkillOpt 的客观项目介绍。SkillOpt is a text-space optimizer that trains reusable natural-language skills for frozen LLM agents through trajectory-driven edits, validation-gated updates, and deployable best_skill.md artifacts

★ 16.1K⑂ 1.5KPython

MITQ86