推理、部署与运行时
hal0
hal0ai/hal0
一个开源、自托管的家庭AI推理平台，旨在将Linux设备转变为兼容OpenAI的推理设备，并针对AMD Strix Halo硬件进行了原生优化。
★ 67⑂ 7Python
ToolAI.io · GitHub 频道
GitHub 上的热门 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
AI 编程与开发者工具
qwen-code：Command-line coding agent
QwenLM/qwen-code
ToolAI 对 QwenLM/qwen-code 的客观项目介绍。An open-source AI coding agent that lives in your terminal
★ 27.1K⑂ 2.9KTypeScript
智能体与多智能体
OpenGeni
cloudgeni-ai/opengeni
一款面向组织的开放、可自托管的智能体运行时，提供持久且可重放的智能体会话、人工审批、受管凭证与记忆，以及灵活的计算目标，包括托管沙箱和接入的用户硬件。
★ 56⑂ 4TypeScript
智能体与多智能体
PwrAgent
pwrdrvr/pwragent
一款在笔记本电脑本地运行的开源桌面编码代理，可通过 Telegram、Discord、Slack、Mattermost、飞书、Lark 或 LINE 等消息平台进行远程驱动。
★ 29⑂ 4TypeScript
智能体与多智能体
Cindy
makecindy/cindy
Cindy 是一个开源桌面和移动端 AI 智能体客户端，可配合本地文件、已登录应用、浏览器、计算机和手机使用。它支持 Claude Code 和 Codex harness，并提供多种模型访问方式、持久化工作区上下文、自动化和 MCP 集成。
★ 2.1K⑂ 282TypeScript
智能体与多智能体
Future AGI
future-agi/future-agi
一个开源、可自托管的平台，用于评估、追踪、模拟、保护、路由和优化 LLM 及 AI 智能体应用。
★ 1.7K⑂ 497Python
智能体与多智能体
1flowbase
taichuy/1flowbase
一款开源 AI 网关，允许本地代理客户端将融合式多模型工作流发布为兼容 OpenAI 和 Claude 的虚拟模型，并提供对追踪、Token、延迟和成本的完全可观测性。
★ 257⑂ 19Rust
智能体与多智能体
DotCraft
dotharness/dotcraft
一个开源、自托管、项目级 AI 代理运行时，提供跨桌面、CLI、机器人和应用程序共享的持久会话、记忆、后台工作和自动化功能。
★ 385⑂ 16C#
MCP 与工具调用
Metronix Memory
mtrnix/metronix-memory
面向 AI 代理的自托管内存基础设施，具备 MCP 原生集成、混合 RAG、时序知识图谱和本体层，专为本地模型友好性及持久的、代理作用域上下文而设计。
★ 39⑂ 7Python
RAG 与知识系统
LanceDB
lancedb/lancedb
一个开源、对开发者友好的嵌入式检索库和多模态 AI 湖仓一体平台，专为快速、可扩展且可用于生产的向量搜索而设计，基于 Lance 列式格式构建。
★ 11.1K⑂ 994Rust
MCP 与工具调用
LangChain4j
langchain4j/langchain4j
一个符合 Java 习惯的开源 JVM 库，用于构建基于大语言模型（LLM）的应用程序。它为流行的 LLM 提供商和向量存储提供了统一的 API，并支持工具调用、MCP、智能体和 RAG。
★ 12.8K⑂ 2.4KJava
推理、部署与运行时
Xorbits Inference (Xinference)
xorbitsai/inference
一个强大且通用的库，旨在为语言、语音识别和多模态模型提供服务。它允许用户仅通过更改一行代码即可将 GPT 替换为任意 LLM，并通过统一的、生产就绪的推理 API 在云端、本地或本地服务器上运行模型。
★ 9.5K⑂ 853Python
第 1 / 4 页 · 38 个项目