Suy luận, Triển khai & Thời gian chạy

ray

ray-project/ray

A distributed computing runtime for machine learning training, tuning and model serving.

★ 43,7KSố sao
⑂ 8KFork
3565Vấn đề đang mở
PythonNgôn ngữ
Apache-2.0Giấy phép
Q85Điểm biên tập

Tổng quan

A distributed computing runtime for machine learning training, tuning and model serving. The repository is maintained under ray-project on GitHub. Its primary language is Python. See the [project README](https://github.com/ray-project/ray#readme) for the supported workflows.

Tính năng chính

  • A distributed computing runtime for machine learning training, tuning and model serving.

Yêu cầu, cài đặt và bắt đầu nhanh

Install Ray in a Python environment using the official installation guide. Select additional dependencies for the Ray libraries needed by your workload.

[Read the upstream installation and quickstart instructions](https://github.com/ray-project/ray#readme).

Cách sử dụng

Start with the documented local example, confirm it runs with your resources, then connect it to your application using the supported interface.

[Usage examples and configuration reference](https://github.com/ray-project/ray#readme).

Khả năng tương thích của mô hình và trường hợp sử dụng

Khả năng tương thích của mô hình không được nêu trong siêu dữ liệu của kho lưu trữ.

Ghi chú về giấy phép và rủi ro

GitHub reports Apache-2.0 for this repository. Review the upstream license file; model weights, datasets and dependencies may have separate terms.

Source review 2026-09-05: GitHub search metadata and repository README. No runtime benchmark performed. License metadata: Apache-2.0.

Phát hành và bảo trì

[View upstream releases](https://github.com/ray-project/ray/releases).

vllm

vllm-project/vllm

★ 89,5KPython

sglang

sgl-project/sglang

★ 32,2KPython

OpenVINO

openvinotoolkit/openvino

★ 10,6KC++

GPUStack

gpustack/gpustack

★ 5,4KPython