ইনফারেন্স, ডিপ্লয়মেন্ট ও রানটাইম

llmgateway

theopenco/llmgateway

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

★ 1.6Kতারকা
⑂ 172ফর্ক
66খোলা সমস্যাগুলো
TypeScriptভাষা
NOASSERTIONলাইসেন্স
Q98সম্পাদকীয় স্কোর

ওভারভিউ

Route, manage, and analyze your LLM requests across multiple providers with a unified API interface.

প্রয়োজনীয়তা, ইনস্টলেশন ও দ্রুত শুরু

রিপোজিটরি মেটাডেটায় ইনস্টলেশনের প্রয়োজনীয়তাগুলি উল্লেখ করা নেই।

ব্যবহার

রিপোজিটরির মেটাডেটাতে ব্যবহার উল্লেখ করা নেই।

মডেলের সামঞ্জস্যতা ও ব্যবহারের ক্ষেত্র

রিপোজিটরি মেটাডেটায় মডেলের সামঞ্জস্যতা উল্লেখ করা নেই।

লাইসেন্স ও ঝুঁকি-সংক্রান্ত নোট

NOASSERTION

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending.

vllm

vllm-project/vllm

★ 89.5KPython

sglang

sgl-project/sglang

★ 32.2KPython

OpenVINO

openvinotoolkit/openvino

★ 10.6KC++

GPUStack

gpustack/gpustack

★ 5.4KPython