ডেভেলপার টুল
local.ai
সম্পূর্ণ ML স্ট্যাক সেটআপ না করেই স্থানীয়ভাবে AI মডেল নিয়ে পরীক্ষা করুন। এই নেটিভ অ্যাপটি মডেল ডাউনলোড করা থেকে ইনফারেন্স সার্ভার চালু করা পর্যন্ত পুরো প্রক্রিয়াকে সহজ করে। GPU প্রয়োজন নেই।
এই টুল সম্পর্কে
প্রধান বৈশিষ্ট্য ও বৈশিষ্ট্যাবলি
- শক্তিশালী নেটিভ অ্যাপ: Rust ব্যাকএন্ডে তৈরি local.ai মেমরি-সাশ্রয়ী ও কমপ্যাক্ট (<10MB on Mac M2, Windows, and Linux .deb)।
- CPU ইনফারেন্সিং: CPU ইনফারেন্সিং সমর্থন করে, উপলভ্য থ্রেড অনুযায়ী মানিয়ে নেয় এবং GGML কোয়ান্টাইজেশন (q4, 5.1, 8, f16) সমর্থন করে।
- মডেল ম্যানেজমেন্ট: ডিরেক্টরি কাঠামো-নিরপেক্ষ একটি কেন্দ্রীয় স্থানে AI মডেলগুলোর হিসাব রাখুন। এতে রিজিউম করা যায় এমন কনকারেন্ট ডাউনলোডার ও ব্যবহারভিত্তিক সাজানোর সুবিধা রয়েছে।
- ডাইজেস্ট যাচাই: শক্তিশালী BLAKE3 ও SHA256 ডাইজেস্ট গণনার মাধ্যমে মডেলের অখণ্ডতা নিশ্চিত করুন। এতে নির্ভরযোগ্য মডেলের API, লাইসেন্স ও ব্যবহার চিপ, BLAKE3 কুইক চেক এবং মডেল তথ্য কার্ড রয়েছে।
- ইনফারেন্স সার্ভার: 2টি ক্লিকে AI ইনফারেন্সের জন্য স্থানীয় স্ট্রিমিং সার্ভার চালু করুন: মডেল লোড করুন, তারপর সার্ভার চালু করুন। এতে কুইক ইনফারেন্স UI, .mdx-এ লেখা, ইনফারেন্স প্যারামিটার এবং রিমোট ভোকাবুলারি রয়েছে।
ওয়ার্কফ্লো
WizardLM 7B মডেলের মতো একটি মডেল ব্যবহার করে 2টি ক্লিকে ইনফারেন্স সেশন শুরু করুন। এটি অফলাইন বা অনলাইনে যেকোনো AI অ্যাপকে শক্তি দেয়, যেমন window.ai-এর সঙ্গে।
সমর্থিত প্ল্যাটফর্ম
Windows (.MSI, .EXE), macOS (M1/M2, Intel) এবং Linux (AppImage, .deb)-এ উপলভ্য।
মূল্য
বিনামূল্যে ও ওপেন সোর্স; সোর্স কোড GPLv3 লাইসেন্সের অধীনে।
আসন্ন ফিচার
GPU ইনফারেন্সিং, সমান্তরাল সেশন, নেস্টেড ডিরেক্টরি, কাস্টম সাজানো ও অনুসন্ধান, মডেল এক্সপ্লোরার, মডেল সার্চ, মডেল সুপারিশ, সার্ভার ম্যানেজার, /audio, /image।
ট্রাফিক বিশ্লেষণ
এই টুলের ট্রাফিক, র্যাঙ্কিং ও এনগেজমেন্টের সংকেত।
ভিজিটের প্রবণতা
প্রবণতার কোনো ডেটা নেই
এনগেজমেন্ট
- বাউন্স রেট--
- প্রতি ভিজিটে পৃষ্ঠা--
- গড় সময়কাল--
ট্রাফিকের উৎস
উৎসের কোনো ডেটা নেই
শীর্ষ দেশসমূহ
দেশের কোনো ডেটা নেই
ইন্টারফেসের প্রিভিউ
