इन्फरेंस, डिप्लॉयमेंट और रनटाइम

llmgateway

theopenco/llmgateway

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

★ 1.6Kसितारे
⑂ 172फ़ोर्क्स
66खुले मुद्दे
TypeScriptभाषा
NOASSERTIONलाइसेंस
Q98संपादकीय स्कोर

अवलोकन

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

आवश्यकताएँ, इंस्टॉलेशन और त्वरित शुरुआत

रिपॉज़िटरी मेटाडेटा में इंस्टॉलेशन आवश्यकताओं का उल्लेख नहीं है।

उपयोग

रिपॉज़िटरी मेटाडेटा में उपयोग का उल्लेख नहीं है।

मॉडल संगतता और उपयोग के मामले

रिपॉज़िटरी मेटाडेटा में मॉडल संगतता का उल्लेख नहीं है।

लाइसेंस और जोखिम संबंधी टिप्पणियाँ

NOASSERTION

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending.

vllm

vllm-project/vllm

★ 89.5KPython

sglang

sgl-project/sglang

★ 32.2KPython

OpenVINO

openvinotoolkit/openvino

★ 10.6KC++

GPUStack

gpustack/gpustack

★ 5.4KPython