推理、部署与运行时

ray

ray-project/ray

为机器学习训练、调参和模型服务提供分布式计算运行时。

★ 43.7K星级
⑂ 8KFork 数
3565未解决的问题
Python语言
Apache-2.0许可证
Q85编辑评分

概览

为机器学习训练、调参和模型服务提供分布式计算运行时。 项目由 ray-project 在 GitHub 维护,主要语言为 Python。具体功能和支持范围请参阅[项目 README](https://github.com/ray-project/ray#readme)。

主要功能

  • 为机器学习训练、调参和模型服务提供分布式计算运行时。

要求、安装和快速入门

根据官方安装指南在 Python 环境中安装 Ray,再按工作负载选择所需 Ray 组件的额外依赖。

[查看上游安装与快速开始文档](https://github.com/ray-project/ray#readme)

用法

先运行文档中的本地示例,确认资源配置可用,再通过支持的接口接入应用。

[使用示例与配置说明](https://github.com/ray-project/ray#readme)

模型兼容性与使用场景

仓库元数据未说明模型兼容性。

许可证与风险说明

GitHub 标注该仓库使用 Apache-2.0。请查看上游许可证文件;模型权重、数据集和依赖可能有独立条款。

Source review 2026-09-05: GitHub search metadata and repository README. No runtime benchmark performed. License metadata: Apache-2.0.

发布与维护

[查看版本发布记录](https://github.com/ray-project/ray/releases)。

vllm

vllm-project/vllm

★ 89.5KPython

sglang

sgl-project/sglang

★ 32.2KPython

OpenVINO

openvinotoolkit/openvino

★ 10.6KC++

GPUStack

gpustack/gpustack

★ 5.4KPython