Promptr

بنیادی فعالیت

Promptr ایک REST API کال کے ذریعے بڑے زبان ماڈلز (LLM) کے پرامپٹس کو کمپریس کرتا ہے، جس سے LLM کے اخراجات میں 40% تک بچت ہوتی ہے اور بالکل وہی LLM آؤٹ پٹ حاصل ہوتا ہے۔

اہم خصوصیات

• فوری انٹیگریشن: اسے صرف 5 منٹ میں شامل کیا جا سکتا ہے۔
• اعلیٰ کمپریشن ریٹ: ڈیفالٹ کمپریشن ریشو 0.6 ہے، یعنی 40% کمی۔ حسبِ ضرورت ریشوز بھی معاونت یافتہ ہیں، مثلاً 50% کمپریشن کے لیے <promptr ratio="0.5"> یا 20% کمپریشن کے لیے <promptr ratio="0.8">۔
• غیر کمپریس شدہ حصے: <promptr compress="false"> ٹیگ کے ذریعے ان متنی حصوں کی نشاندہی کی جا سکتی ہے جنہیں کمپریس نہیں کرنا۔ غیر کمپریس شدہ حصوں کے لیے بل نہیں لیا جاتا۔

استعمال اور API معاونت

یہ ایک API اینڈ پوائنٹ (http://promptr.me/compress-prompt) فراہم کرتا ہے اور متعدد پروگرامنگ زبانوں میں فوری انٹیگریشن کو سپورٹ کرتا ہے:

• curl: JSON فارمیٹ میں پرامپٹ کے ساتھ POST درخواست بھیجیں۔
• Python: requests لائبریری استعمال کرتے ہوئے POST درخواست کریں۔
• JavaScript: fetch API استعمال کرتے ہوئے POST درخواست کریں۔
• C#: HttpClient استعمال کرتے ہوئے غیر ہم وقتی POST درخواست کریں۔

ہیڈرز میں accept: text/plain، token: YOUR-API-TOKEN اور Content-Type: application/ شامل ہونا ضروری ہے۔

ہدف صارفین

ڈیولپرز، ادارے اور AI ایپلی کیشن بنانے والے جنہیں LLM API کالز کی بڑی تعداد درکار ہوتی ہے۔ یہ خاص طور پر ان حالات کے لیے موزوں ہے جہاں ایک ہی پرامپٹ کئی بار استعمال کیا جاتا ہے۔

بنیادی فوائد

• نمایاں لاگت میں کمی: کسی پرامپٹ کو 100 بار دوبارہ استعمال کرنے پر Promptr، GPT-4-Turbo اور GPT-4 پر 40% بچت کرتا ہے۔ پرامپٹ صرف ایک بار استعمال کرنے پر بھی GPT-4-Turbo پر 30% اور GPT-4 پر 37% بچت ہوتی ہے۔
• آؤٹ پٹ میں کوئی کمی نہیں: کمپریس شدہ پرامپٹ غیر کمپریس شدہ ورژن جیسا ہی LLM آؤٹ پٹ فراہم کرتا ہے۔

قیمتوں کا ماڈل اور لاگت

Promptr بغیر کسی پوشیدہ لاگت کے استعمال کے مطابق ادائیگی کا ماڈل استعمال کرتا ہے۔ Promptr کی قیمت 1M ان پٹ ٹوکنز کے لیے $1 ہے۔ مثال کے طور پر، اگر GPT-4 کی قیمت 1M ان پٹ ٹوکنز کے لیے $30 ہو اور ایک پرامپٹ 100 بار دوبارہ استعمال کیا جائے، تو Promptr کے بغیر لاگت $3,000 ہوگی۔ Promptr کے ساتھ 600k ان پٹ ٹوکنز کے لیے LLM لاگت $1,800 رہ جاتی ہے، جس میں Promptr کے $1 شامل کرنے پر کل $1,801 بنتا ہے—یعنی 40% بچت۔