इन्फरेंस, डिप्लॉयमेंट और रनटाइम

FastDeploy

PaddlePaddle/FastDeploy

High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle

★ 3.7Kसितारे
⑂ 755फ़ोर्क्स
697खुले मुद्दे
Pythonभाषा
Apache-2.0लाइसेंस
Q98संपादकीय स्कोर

अवलोकन

High-performance Inference and Deployment Toolkit for LLMs and VLMs based on PaddlePaddle

आवश्यकताएँ, इंस्टॉलेशन और त्वरित शुरुआत

रिपॉज़िटरी मेटाडेटा में इंस्टॉलेशन आवश्यकताओं का उल्लेख नहीं है।

उपयोग

रिपॉज़िटरी मेटाडेटा में उपयोग का उल्लेख नहीं है।

मॉडल संगतता और उपयोग के मामले

रिपॉज़िटरी मेटाडेटा में मॉडल संगतता का उल्लेख नहीं है।

लाइसेंस और जोखिम संबंधी टिप्पणियाँ

Apache-2.0

ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending. Quality score was recomputed from live GitHub repository facts on 2026-08-22 UTC using the seven-dimension channel formula.

vllm

vllm-project/vllm

★ 89.5KPython

sglang

sgl-project/sglang

★ 32.2KPython

OpenVINO

openvinotoolkit/openvino

★ 10.6KC++

GPUStack

gpustack/gpustack

★ 5.4KPython