डेवलपर टूल्स
local.ai
पूरे ML स्टैक को सेट अप किए बिना स्थानीय रूप से AI मॉडल के साथ प्रयोग करें। यह नेटिव ऐप मॉडल डाउनलोड करने से लेकर इंफरेंस सर्वर शुरू करने तक की प्रक्रिया को सरल बनाता है। GPU की आवश्यकता नहीं है।
इस टूल के बारे में
मुख्य विशेषताएँ और खूबियाँ
- शक्तिशाली नेटिव ऐप: Rust बैकएंड पर बना local.ai मेमोरी-कुशल और कॉम्पैक्ट है (<10MB on Mac M2, Windows, and Linux .deb)।
- CPU इंफरेंसिंग: CPU इंफरेंसिंग, उपलब्ध थ्रेड के अनुसार अनुकूलन और GGML क्वांटाइज़ेशन (q4, 5.1, 8, f16) का सपोर्ट।
- मॉडल प्रबंधन: सभी AI मॉडल को एक केंद्रीकृत, डायरेक्टरी-एग्नॉस्टिक स्थान पर व्यवस्थित रखें। इसमें रुकने के बाद फिर शुरू हो सकने वाला, समवर्ती डाउनलोडर और उपयोग-आधारित सॉर्टिंग शामिल है।
- डाइजेस्ट सत्यापन: BLAKE3 और SHA256 डाइजेस्ट की गणना से मॉडल की अखंडता सुनिश्चित करें। इसमें ज्ञात-विश्वसनीय मॉडल API, लाइसेंस और उपयोग चिप्स, BLAKE3 क्विक चेक और मॉडल इन्फो कार्ड शामिल हैं।
- इंफरेंसिंग सर्वर: 2 क्लिक में AI इंफरेंसिंग के लिए स्थानीय स्ट्रीमिंग सर्वर शुरू करें: मॉडल लोड करें, फिर सर्वर शुरू करें। इसमें क्विक इंफरेंस UI, .mdx में लेखन, इंफरेंस पैरामीटर और रिमोट शब्दावली शामिल हैं।
वर्कफ़्लो
2 क्लिक में इंफरेंस सेशन शुरू करें, जैसे WizardLM 7B मॉडल के साथ। यह किसी भी AI ऐप को ऑफलाइन या ऑनलाइन शक्ति देता है, जैसे window.ai के साथ।
समर्थित प्लेटफ़ॉर्म
Windows (.MSI, .EXE), macOS (M1/M2, Intel) और Linux (AppImage, .deb) के लिए उपलब्ध।
कीमत
मुफ़्त और ओपन-सोर्स। सोर्स कोड GPLv3 के अंतर्गत लाइसेंस प्राप्त है।
आगामी सुविधाएँ
GPU इंफरेंसिंग, समानांतर सेशन, नेस्टेड डायरेक्टरी, कस्टम सॉर्टिंग और सर्च, मॉडल एक्सप्लोरर, मॉडल सर्च, मॉडल अनुशंसा, सर्वर मैनेजर, /audio, /image।
ट्रैफ़िक विश्लेषण
इस टूल के ट्रैफ़िक, रैंकिंग और सहभागिता के संकेतक।
विज़िट का रुझान
रुझान का कोई डेटा नहीं
सहभागिता
- बाउंस दर--
- प्रति विज़िट पृष्ठ--
- औसत अवधि--
ट्रैफ़िक स्रोत
स्रोत का कोई डेटा नहीं
शीर्ष देश
देशों का कोई डेटा नहीं
इंटरफ़ेस पूर्वावलोकन
