微调、训练与数据
aikit
kaito-project/aikit
🏗️ Fine-tune, build, and deploy open-source LLMs easily!
★ 535⑂ 57Go
ToolAI.io · GitHub 频道
GitHub 上的新 AI 项目
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引；每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
项目索引
MCP 与工具调用
litellm
berriai/litellm
The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
★ 56.8K⑂ 10.8KPython
推理、部署与运行时
vllm
vllm-project/vllm
A high-throughput and memory-efficient inference and serving engine for LLMs
★ 89.5K⑂ 21KPython
RAG 与知识系统
EvalScope
modelscope/evalscope
一个轻量且可定制的大模型（LLM、VLM、AIGC）评测与性能基准测试框架。
★ 3.2K⑂ 440Python
智能体与多智能体
TruLens：面向 LLM 实验与 AI 智能体的评估与追踪工具
truera/trulens
TruLens 是一个开源的、原生支持 OpenTelemetry 的评估与追踪库，适用于 LLM 应用和 AI 智能体。它帮助开发者追踪每一步骤，使用 LLM 作为评判者对性能进行打分，并比较不同版本的应用。
★ 3.5K⑂ 319Python
智能体与多智能体
OpenAgents
openagents-org/openagents
一个开源平台，为 AI 智能体提供协作式操作系统，支持统一工作区管理、多智能体协调和网络集成，且无供应商锁定。
★ 4K⑂ 403TypeScript
智能体与多智能体
CSGHub：开源大语言模型资产管理平台
opencsgs/csghub
CSGHub 是一个开源的本地化部署平台，用于管理大语言模型资产的全生命周期，包括模型、数据集、空间和代码，提供类似于私有化 Hugging Face 的功能。
★ 4.2K⑂ 525Vue
MCP 与工具调用
ha-mcp：非官方 Home Assistant MCP 服务器
homeassistant-ai/ha-mcp
一个功能全面的模型上下文协议（MCP）服务器，使 AI 助手能够通过自然语言与 Home Assistant 智能家居系统进行交互、配置、构建和调试。
★ 4.3K⑂ 177Python
MCP 与工具调用
Lemonade：面向 GPU 和 NPU 推理的本地 AI 服务器
lemonade-sdk/lemonade
Lemonade 是一个开源的本地 AI 服务器，允许用户直接在自己的 GPU 和 NPU 上运行优化的大语言模型（LLM）、语音及图像生成模型，提供了一种免费且私有的云 API 替代方案。
★ 5.2K⑂ 436C++
智能体与多智能体
Genkit：用于构建智能体 AI 应用的开源框架
genkit-ai/genkit
Genkit 是一个开源框架，由 Google 的 Firebase 团队构建并在生产环境中使用，用于开发全栈 AI 驱动的应用程序。它提供跨语言 SDK 和统一 API，用于集成各种 AI 模型，以构建聊天机器人、自动化工作流和推荐系统。
★ 6.3K⑂ 816TypeScript
智能体与多智能体
Honcho
plastic-labs/honcho
用于构建有状态 AI 智能体的记忆基础设施，能够理解随时间变化的用户、智能体、群体、项目和想法。
★ 6.5K⑂ 788Python
LLM 与基础模型
ClearML
clearml/clearml
ClearML 是一个开源的 MLOps/LLMOps 套件，提供自动化的 CI/CD 以简化 AI 工作负载。它将实验管理、数据管理、流水线编排、调度和模型服务集成到一个综合平台中。
★ 6.8K⑂ 789Python
第 5 / 11 页 · 126 个项目