انفرنس، ڈپلائمنٹ اور رَن ٹائم · GitHub پر اوپن سورس AI پروجیکٹس
LLM، ایجنٹ، MCP، RAG اور AI ڈویلپمنٹ پروجیکٹس کی حقائق پر مبنی فہرست، جس میں ہر اندراج کے لیے لائسنس، سیٹ اپ، ڈاؤن لوڈ، اسکرین شاٹس اور متعلقہ وسائل شامل ہیں۔
A powerful and versatile library designed to serve language, speech recognition, and multimodal models. It allows users to swap GPT for any LLM by changing a single line of code and run models on cloud, on-prem, or locally via a unified, production-ready inference API.
An open-source, self-hosted home AI inference platform designed to turn a Linux box into an OpenAI-compatible inference appliance, with native optimization for AMD Strix Halo hardware.