Ollama

جائزہ

Ollama اوپن ویٹ زبان کے ماڈلز چلانے کا ایک مقبول طریقہ ہے۔ آپ کوئی ماڈل ڈاؤن لوڈ کرکے اپنے کمپیوٹر پر چلا سکتے ہیں، یا اسی ایپ، کمانڈ لائن اور API کے ذریعے بڑے کلاؤڈ پر میزبانی کیے گئے ماڈلز استعمال کر سکتے ہیں۔ Ollama کے مطابق پرامپٹس کبھی محفوظ نہیں کیے جاتے اور تربیت کے لیے استعمال نہیں ہوتے۔ یہ macOS، Windows اور Linux کے لیے دستیاب ہے۔

اہم خصوصیات

• مقامی ماڈلز: اوپن ماڈلز اپنے ہارڈویئر پر ڈاؤن لوڈ کرکے چلائیں؛ کسی بھی پلان پر استعمال کی کوئی حد نہیں ہے۔
• کلاؤڈ ماڈلز: اپنے کمپیوٹر کے لیے بہت بڑے ماڈلز Ollama کے سرورز پر چلائیں؛ بلنگ فی ٹوکن یا پلان کے ماہانہ کریڈٹس میں سے ہوتی ہے۔
• ایک ہی انٹرفیس: ڈیسک ٹاپ ایپ، ollama کمانڈ اور مقامی API مقامی اور کلاؤڈ ماڈلز کے لیے یکساں کام کرتے ہیں، اس لیے دوسرے ٹولز ان سے منسلک ہو سکتے ہیں۔
• ٹول کالنگ: ٹولز کو سپورٹ کرنے والے کلاؤڈ ماڈلز کو ٹول کالنگ کے لیے آزمایا جاتا ہے۔
• پیمانہ: Ollama کے مطابق ہر ماہ 9 ملین سے زیادہ انسٹالیشنز اور 1 بلین سے زیادہ ماڈل ڈاؤن لوڈز ہوتے ہیں۔

قیمت

• Pay as you go: $0؛ مقامی استعمال مفت اور لامحدود ہے، کلاؤڈ ماڈلز کی بلنگ فی ٹوکن ہوتی ہے اور 3 بیک وقت درخواستیں دستیاب ہیں۔
• Pro: ماہانہ $20 یا سالانہ $200؛ اس میں ہر ماہ $60 کا کلاؤڈ استعمال، بڑے Pro ماڈلز اور 3 بیک وقت درخواستیں شامل ہیں۔
• Max: ماہانہ $100؛ اس میں ہر ماہ $300 کا کلاؤڈ استعمال، 10 بیک وقت درخواستیں اور نئے ماڈلز تک ابتدائی رسائی شامل ہے۔
• Team (early access): ماہانہ $500؛ اس میں $1,000 کا مشترکہ استعمال، لامحدود صارفین اور مرکزی بلنگ شامل ہے۔
• Enterprise: حسبِ ضرورت قیمت۔

شامل استعمال ہر ماہ ری سیٹ ہوتا ہے اور اگلے ماہ منتقل نہیں ہوتا۔

یہ کس کے لیے ہے

ڈویلپرز اور رازداری کو اہمیت دینے والے صارفین کے لیے، جو ماڈلز آف لائن چلانا، تعیناتی سے پہلے اوپن ماڈلز آزمانا، یا کوڈنگ اور چیٹ ٹولز کو مقامی ماڈل سے منسلک کرنا چاہتے ہیں۔

شروع کیسے کریں

macOS یا Linux پر curl -fsSL https://ollama.com/install.sh | sh چلائیں؛ Windows پر PowerShell میں irm https://ollama.com/install.ps1 | iex چلائیں یا انسٹالر استعمال کریں۔ پھر اپنی میموری کے مطابق ایک چھوٹا ماڈل ڈاؤن لوڈ کریں اور اسے ایپ یا ٹرمینل میں آزمائیں۔

قابلِ توجہ باتیں

مقامی رفتار آپ کے ہارڈویئر پر منحصر ہے: طاقتور GPU اور کافی میموری کے بغیر بڑے ماڈلز سست ہوتے ہیں۔ تجارتی استعمال سے پہلے ہر ماڈل کا لائسنس چیک کریں۔

ملتے جلتے ٹولز

LM Studio، Jan، GPT4All، llama.cpp، Open WebUI۔