Инференс, развёртывание и среда выполнения

sglang

sgl-project/sglang

SGLang is a high-performance serving framework for large language models and multimodal models.

★ 32,2KЗвёзды
⑂ 8,1KФорки
4927Открытые проблемы
PythonЯзык
Apache-2.0Лицензия
Q98Редакционная оценка

Обзор

SGLang is a high-performance serving framework for large language models and multimodal models.

Требования, установка и быстрый старт

В метаданных репозитория требования к установке не указаны.

Использование

В метаданных репозитория сведения об использовании не указаны.

Совместимость моделей и варианты использования

В метаданных репозитория совместимость моделей не указана.

Лицензия и примечания о рисках

Apache-2.0

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending.

vllm

vllm-project/vllm

★ 89,5KPython

OpenVINO

openvinotoolkit/openvino

★ 10,6KC++

GPUStack

gpustack/gpustack

★ 5,4KPython

FastDeploy

PaddlePaddle/FastDeploy

★ 3,7KPython