Inferentie, implementatie en runtime

llmgateway

theopenco/llmgateway

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

★ 1,6KSterren
⑂ 172Forks
66Openstaande problemen
TypeScriptTaal
NOASSERTIONLicentie
Q98Redactionele score

Overzicht

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

Vereisten, installatie en snel aan de slag

Installatievereisten staan niet vermeld in de metadata van de repository.

Gebruik

Het gebruik wordt niet vermeld in de metagegevens van de repository.

Modelcompatibiliteit en gebruiksscenario's

Modelcompatibiliteit staat niet vermeld in de metadata van de repository.

Licentie- en risiconotities

NOASSERTION

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending.

vllm

vllm-project/vllm

★ 89,5KPython

sglang

sgl-project/sglang

★ 32,2KPython

OpenVINO

openvinotoolkit/openvino

★ 10,6KC++

GPUStack

gpustack/gpustack

★ 5,4KPython