Inferencia, implementación y tiempo de ejecución

llmgateway

theopenco/llmgateway

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

★ 1,6KEstrellas
⑂ 172Bifurcaciones
66Problemas abiertos
TypeScriptIdioma
NOASSERTIONLicencia
Q98Puntuación editorial

Resumen

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

Requisitos, instalación y guía rápida

Los requisitos de instalación no se indican en los metadatos del repositorio.

Uso

El uso no se indica en los metadatos del repositorio.

Compatibilidad de modelos y casos de uso

La compatibilidad del modelo no se indica en los metadatos del repositorio.

Notas sobre la licencia y los riesgos

NOASSERTION

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending.

vllm

vllm-project/vllm

★ 89,5KPython

sglang

sgl-project/sglang

★ 32,2KPython

OpenVINO

openvinotoolkit/openvino

★ 10,6KC++

GPUStack

gpustack/gpustack

★ 5,4KPython