智能体与多智能体

dstack

dstackai/dstack

一个与供应商无关的控制平面,用于在 GPU 云、Kubernetes 和本地基础设施上配置和编排训练、推理、开发及智能体工作负载。

★ 2.2K星级
⑂ 248Fork 数
58未解决的问题
Python语言
MPL-2.0许可证
Q@project.QualityScore编辑评分

概览

dstack 为跨云后端、Kubernetes 集群以及裸金属或本地服务器的计算管理提供统一接口。基于仓库的 YAML 配置可描述集群、开发环境、任务、服务和持久卷。配置可通过 CLI、编程 API 或受支持的 AI 智能体技能应用。仓库元数据显示该项目以 Python 为主要语言,且项目未归档。

主要功能

  • 跨 GPU 云、Kubernetes 和本地集群的与供应商无关编排
  • 支持 NVIDIA、AMD、Google TPU 和 Tenstorrent 加速器
  • 用于集群、开发环境、任务、服务和卷的 YAML 配置
  • CLI、编程 API 和 AI 智能体技能工作流
  • 分布式作业、模型部署、Web 应用、自动扩缩容和授权
  • 自动化资源配置、作业排队、网络、卷处理、端口转发和故障处理
  • 无需后端配置即可用于本地服务器的 SSH 集群

要求、安装和快速入门

使用 `uv tool install "dstack[all]" -U` 安装并通过 `dstack server` 启动服务器。如仅需 CLI,可使用 `uv tool install dstack -U` 安装。通过 `dstack project add --name main --url http://127.0.0.1:3000 --token <user-token>` 将 CLI 连接到服务器。可选智能体技能可通过 `npx skills add dstackai/dstack` 安装。

用法

启动服务器,并按需配置云或 Kubernetes 后端,或为本地机器创建 SSH 集群。将服务器地址、用户令牌和项目名称添加到 CLI。在仓库中以 YAML 文件定义集群、任务、服务、开发环境或卷,然后通过 `dstack apply`、编程 API 或已安装的智能体技能提交。README 表示,技能可帮助 Claude、Codex 和 Cursor 创建及管理集群、编辑配置文件并提交工作负载。

模型兼容性与使用场景

仓库描述了与开源工具和框架的兼容性,但未列出具体模型系列。它支持在 NVIDIA、AMD、Google TPU 和 Tenstorrent 硬件上进行推理和模型部署。Claude、Codex 和 Cursor 被提及为可使用 dstack 技能的智能体;它们未被标识为托管推理模型。仓库元数据未说明 MCP 和 RAG 支持。

许可证与风险说明

仓库元数据指定使用 Mozilla Public License 2.0(MPL-2.0)。重新分发或修改前请查看仓库许可证:https://api.github.com/licenses/mpl-2.0

发布与维护

README 列出了多个版本,包括用于 PD 解耦和 Kubernetes 卷的 0.20.17、用于性能和 SSH 代理的 0.20.16、用于导出和模板的 0.20.13、用于 Crusoe 的 0.20.12、用于技能的 0.20.8,以及用于以集群为先的 UX 和事件的 0.20.0。完整详情可参阅 README 链接的仓库发布页面。

Firecrawl

firecrawl/firecrawl

★ 161.1KTypeScript

LangChain

langchain-ai/langchain

★ 143.6KPython

RAGFlow

infiniflow/ragflow

★ 86.7KGo