MCP 与工具调用
berriai/litellm
The fastest, litest AI Gateway. Rust core with Python SDK. Call 100+ LLM APIs in OpenAI (or native) format with cost tracking, guardrails, load balancing, and logging [Bedrock, Azure, OpenAI, Anthropic, OpenAI, VertexAI, vLLM, Nvidia NIM]
★ 56.8K⑂ 10.8KPython
NOASSERTIONQ98
MCP 与工具调用
agentscope-ai/agentscope
一个生产就绪、易于使用的智能体框架,旨在利用日益智能化的LLM的推理和工具使用能力,而不通过严格的提示词或固执的编排来限制它们。
★ 28.6K⑂ 3.3KPython
Apache-2.0Q98
RAG 与知识系统
lancedb/lancedb
一个开源、对开发者友好的嵌入式检索库和多模态 AI 湖仓一体平台,专为快速、可扩展且可用于生产的向量搜索而设计,基于 Lance 列式格式构建。
★ 11.1K⑂ 994Rust
Apache-2.0Q98
智能体与多智能体
0xplaygrounds/rig
⚙️🦀 Build modular and scalable LLM Applications in Rust
★ 8.3K⑂ 937Rust
MITQ98
智能体与多智能体
sno-ai/llmix
一款面向 AI 代理和工具的生产级 LLM 调用层,通过配置驱动的模型预设、缓存、弹性模式及密钥轮换,封装了现有的提供商 SDK,支持 Python、TypeScript 和 Rust。
★ 131⑂ 28Python
Apache-2.0Q91
AI 编程与开发者工具
rtk-ai/rtk
通过压缩常用命令输出,降低 AI 编程工作流的上下文占用。
★ 78.6K⑂ 5KRust
Apache-2.0Q90
RAG 与知识系统
infino-ai/infino
Infino 是一个快速检索引擎,能够对以 Parquet 格式原生存储在对象存储上的单份数据执行 SQL、全文搜索和向量搜索。
★ 67⑂ 18Rust
Apache-2.0Q89
智能体与多智能体
0xlazai/alith
一个简单、可组合且高性能的 AI 智能体框架,专为 Web3 和 Crypto 设计,使开发者能够通过多语言支持和 LazAI Gateway 集成来构建、部署和管理链上 AI 智能体。
★ 44⑂ 31Rust
Apache-2.0Q88
AI 编程与开发者工具
openai/codex
ToolAI 对 openai/codex 的客观项目介绍。Lightweight coding agent that runs in your terminal
★ 107.1K⑂ 16.3KRust
Apache-2.0Q86
推理、部署与运行时
openai/tiktoken
ToolAI 对 openai/tiktoken 的客观项目介绍。tiktoken is a fast BPE tokeniser for use with OpenAI's models
★ 19K⑂ 1.6KRust
MITQ86