rig
0xplaygrounds/rig
⚙️🦀 Build modular and scalable LLM Applications in Rust
ToolAI.io · GitHub 频道
一个基于事实的 LLM、智能体、MCP、RAG 和 AI 开发项目索引;每个条目均包含许可证、设置、下载、截图及相关资源。
公开仓库数据
0xplaygrounds/rig
⚙️🦀 Build modular and scalable LLM Applications in Rust
omnigent-ai/omnigent
Omnigent 是一个开源的元测试框架(meta-harness),为各类 AI 编程智能体提供统一的编排层,允许用户切换测试框架、执行治理策略、运行云端沙箱,并跨多设备进行实时协作。
flyteorg/flyte
Flyte 是一个开源编排框架,用于可靠地构建、扩展和部署机器学习流水线、模型及智能体,完全使用纯 Python 实现。
maximhq/bifrost
Bifrost 是一个基于 Go 的 AI 网关,为 23+ 家 AI 提供商提供统一的、兼容 OpenAI 的 API。它支持路由、故障转移、负载均衡、语义缓存、治理、可观测性、多模态请求、插件和模型上下文协议集成。
katanemo/plano
Plano 是一款使用 Rust 构建的原生 AI 代理服务器与数据平面,可集中处理 LLM 路由、智能体编排、可观测性和防护栏,使开发者能够专注于核心智能体逻辑,而非底层基础设施。
clearml/clearml
ClearML 是一个开源的 MLOps/LLMOps 套件,提供自动化的 CI/CD 以简化 AI 工作负载。它将实验管理、数据管理、流水线编排、调度和模型服务集成到一个综合平台中。
plastic-labs/honcho
用于构建有状态 AI 智能体的记忆基础设施,能够理解随时间变化的用户、智能体、群体、项目和想法。
genkit-ai/genkit
Genkit 是一个开源框架,由 Google 的 Firebase 团队构建并在生产环境中使用,用于开发全栈 AI 驱动的应用程序。它提供跨语言 SDK 和统一 API,用于集成各种 AI 模型,以构建聊天机器人、自动化工作流和推荐系统。
thinkinaixyz/deepchat
DeepChat 是一款开源、本地优先的 AI 智能体桌面客户端,使用 TypeScript 和 Electron 构建。它集成了云端大语言模型、本地模型、MCP 服务、可安装的技能(Skills)、ACP 智能体以及用于消息应用远程控制的功能,遵循 Tape.systems 理念,确保智能体会话可恢复且可检查。
kvcache-ai/mooncake
Mooncake 是一个面向大规模 LLM 推理和训练的 C++ 基础设施项目。它将预填充、解码和存储资源解耦,并提供高性能数据传输、分布式 KV 缓存存储及具备容错能力的专家并行通信。
giskard-ai/giskard-oss
一个用于评估和测试基于 LLM 及智能体系统的开源 Python 库,支持多轮评估、LLM-as-judge 检查和自动化漏洞扫描。
potpie-ai/potpie
Potpie 将代码库和软件开发生命周期转化为供 AI 代理使用的动态上下文图,通过索引代码、结构、决策、源码历史和团队知识,实现具备上下文感知的编码、规划和调试。
第 6 / 25 页 · 295 个项目