MCP 与工具调用
LangChain4j
langchain4j/langchain4j
一个符合 Java 习惯的开源 JVM 库，用于构建基于大语言模型（LLM）的应用程序。它为流行的 LLM 提供商和向量存储提供了统一的 API，并支持工具调用、MCP、智能体和 RAG。
★ 12.8K⑂ 2.4KJava
ToolAI.io · GitHub 频道
GitHub 上的热门 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
推理、部署与运行时
Xorbits Inference (Xinference)
xorbitsai/inference
一个强大且通用的库，旨在为语言、语音识别和多模态模型提供服务。它允许用户仅通过更改一行代码即可将 GPT 替换为任意 LLM，并通过统一的、生产就绪的推理 API 在云端、本地或本地服务器上运行模型。
★ 9.5K⑂ 853Python
智能体与多智能体
Pydantic AI
pydantic/pydantic-ai
一个 Python Agent 框架，旨在帮助开发者构建生产级生成式 AI 应用与工作流，强调类型安全、结构化验证与易用性设计。
★ 19.1K⑂ 2.5KPython
智能体与多智能体
Google Agent Development Kit (ADK) 2.0
google/adk-python
一个开源的、代码优先的 Python 框架，用于以灵活且可控的方式构建、评估和部署复杂的 AI 代理。
★ 21K⑂ 3.8KPython
智能体与多智能体
Mintplex-Labs 推出的 AnythingLLM
mintplex-labs/anything-llm
一款一体化、本地优先的 AI 应用，支持与文档对话、构建 AI 智能体，以及开箱即用地运行私有多用户 ChatGPT 替代方案。
★ 64.5K⑂ 7.1KJavaScript
MCP 与工具调用
Vibe-Trading：您的个人交易智能体
hkuds/vibe-trading
一个开源的基于Python的AI智能体框架，旨在通过单一命令提供全面的交易、回测和量化金融功能。
★ 30.1K⑂ 4.8KPython
LLM 与基础模型
ClearML
clearml/clearml
ClearML 是一个开源的 MLOps/LLMOps 套件，提供自动化的 CI/CD 以简化 AI 工作负载。它将实验管理、数据管理、流水线编排、调度和模型服务集成到一个综合平台中。
★ 6.8K⑂ 789Python
智能体与多智能体
Genkit：用于构建智能体 AI 应用的开源框架
genkit-ai/genkit
Genkit 是一个开源框架，由 Google 的 Firebase 团队构建并在生产环境中使用，用于开发全栈 AI 驱动的应用程序。它提供跨语言 SDK 和统一 API，用于集成各种 AI 模型，以构建聊天机器人、自动化工作流和推荐系统。
★ 6.3K⑂ 816TypeScript
智能体与多智能体
Plano：面向智能体应用的原生 AI 代理服务器与数据平面
katanemo/plano
Plano 是一款使用 Rust 构建的原生 AI 代理服务器与数据平面，可集中处理 LLM 路由、智能体编排、可观测性和防护栏，使开发者能够专注于核心智能体逻辑，而非底层基础设施。
★ 7K⑂ 484Rust
智能体与多智能体
TruLens：面向 LLM 实验与 AI 智能体的评估与追踪工具
truera/trulens
TruLens 是一个开源的、原生支持 OpenTelemetry 的评估与追踪库，适用于 LLM 应用和 AI 智能体。它帮助开发者追踪每一步骤，使用 LLM 作为评判者对性能进行打分，并比较不同版本的应用。
★ 3.5K⑂ 319Python
MCP 与工具调用
QwenPaw
agentscope-ai/qwenpaw
一款可自托管的个人AI助手，支持本地或云端运行，具备多渠道连接、可扩展技能以及三层记忆系统。
★ 33.9K⑂ 3KPython
RAG 与知识系统
EvalScope
modelscope/evalscope
一个轻量且可定制的大模型（LLM、VLM、AIGC）评测与性能基准测试框架。
★ 3.2K⑂ 440Python
第 6 / 11 页 · 126 个项目