अवलोकन
A high-throughput and memory-efficient inference and serving engine for LLMs
आवश्यकताएँ, इंस्टॉलेशन और त्वरित शुरुआत
रिपॉज़िटरी मेटाडेटा में इंस्टॉलेशन आवश्यकताओं का उल्लेख नहीं है।
उपयोग
रिपॉज़िटरी मेटाडेटा में उपयोग का उल्लेख नहीं है।
मॉडल संगतता और उपयोग के मामले
रिपॉज़िटरी मेटाडेटा में मॉडल संगतता का उल्लेख नहीं है।
लाइसेंस और जोखिम संबंधी टिप्पणियाँ
Apache-2.0
ToolAI metadata-only listing: repository metadata is public; editorial content and manual verification are still pending.