Promptr

মূল কার্যকারিতা

Promptr একটি REST API কলের মাধ্যমে বৃহৎ ভাষা মডেল (LLM)-এর প্রম্পট কমপ্রেস করে। এতে LLM-এর খরচ 40% পর্যন্ত কমতে পারে এবং একই LLM আউটপুট পাওয়া যায়।

প্রধান বৈশিষ্ট্য

• দ্রুত ইন্টিগ্রেশন: মাত্র 5 মিনিটে যোগ করা যায়।
• উচ্চ কমপ্রেশন রেট: ডিফল্ট কমপ্রেশন অনুপাত 0.6, অর্থাৎ 40% হ্রাস। কাস্টম অনুপাতও সমর্থিত, যেমন 50% কমপ্রেশনের জন্য <promptr ratio="0.5"> এবং 20% কমপ্রেশনের জন্য <promptr ratio="0.8">।
• কমপ্রেশন-বিহীন অংশ: <promptr compress="false"> ট্যাগ ব্যবহার করে কমপ্রেস না করার টেক্সট অংশ নির্দিষ্ট করা যায়। কমপ্রেশন-বিহীন অংশের জন্য বিল করা হয় না।

ব্যবহার ও API সহায়তা

এটি একটি API এন্ডপয়েন্ট (http://promptr.me/compress-prompt) প্রদান করে এবং একাধিক প্রোগ্রামিং ভাষায় দ্রুত ইন্টিগ্রেশন সমর্থন করে:

• curl: JSON ফরম্যাটে প্রম্পটসহ POST অনুরোধ পাঠান।
• Python: requests লাইব্রেরি ব্যবহার করে POST অনুরোধ করুন।
• JavaScript: fetch API ব্যবহার করে POST অনুরোধ করুন।
• C#: HttpClient ব্যবহার করে অ্যাসিনক্রোনাস POST অনুরোধ করুন।

হেডারে accept: text/plain, token: YOUR-API-TOKEN এবং Content-Type: application/ থাকতে হবে।

লক্ষ্য ব্যবহারকারী

ডেভেলপার, প্রতিষ্ঠান এবং AI অ্যাপ্লিকেশন নির্মাতারা, যাদের প্রচুর LLM API কল প্রয়োজন। একই প্রম্পট বারবার ব্যবহারের পরিস্থিতিতে এটি বিশেষভাবে উপযোগী।

মূল সুবিধা

• উল্লেখযোগ্য খরচ কমানো: কোনো প্রম্পট 100 বার পুনরায় ব্যবহার করলে Promptr GPT-4-Turbo ও GPT-4-এ 40% সাশ্রয় করে। প্রম্পট মাত্র একবার ব্যবহার করলেও GPT-4-Turbo-তে 30% এবং GPT-4-এ 37% সাশ্রয় হয়।
• আউটপুটে কোনো ক্ষতি নেই: কমপ্রেস করা প্রম্পটটি কমপ্রেশন-বিহীন সংস্করণের মতো একই LLM আউটপুট দেয়।

মূল্য নির্ধারণ ও খরচ

Promptr কোনো গোপন খরচ ছাড়াই ব্যবহার অনুযায়ী অর্থপ্রদানের মূল্য মডেল ব্যবহার করে। Promptr-এর খরচ 1M ইনপুট টোকেনের জন্য $1। উদাহরণস্বরূপ, GPT-4-এর মূল্য 1M ইনপুট টোকেনের জন্য $30 এবং একটি প্রম্পট 100 বার পুনরায় ব্যবহার করলে, Promptr ছাড়া খরচ হবে $3,000। Promptr ব্যবহার করলে 600k ইনপুট টোকেনের জন্য LLM খরচ কমে $1,800 হয়; এর সঙ্গে Promptr-এর $1 যোগ করে মোট খরচ $1,801, অর্থাৎ 40% সাশ্রয়।