এটি কী করে
LangChain-এর TypeSafe integration, TypeSafeClassifier-এর মাধ্যমে Jev ব্যবহার করার সুযোগ দেয়। এটি একটি Runnable, যাকে invoke, batch এবং অন্যান্য workflow component-এর সঙ্গে compose করা যায়। এটি সমর্থিত text বা structured state গ্রহণ করে এবং decision result ফেরত দেয়; agent-এর response লেখে এমন generative model-এর বিকল্প এটি নয়।
নথিভুক্ত integration-এ model routing এবং tool call পর্যালোচনার জন্য experimental middleware-ও রয়েছে। classifier একাই ব্যবহার করা এবং এগুলো ব্যবহার করা আলাদা সিদ্ধান্ত। বড় agent loop-এ model judgment যোগ করার আগে ছোট ও স্পষ্ট classifier ধাপটি পরিদর্শন করাই প্রায়ই সবচেয়ে সহজ।
কার জন্য উপযোগী
আপনি যদি আগে থেকেই LangChain ব্যবহার করেন এবং সিদ্ধান্তটি workflow-এর প্রচলিত নিয়ম মেনে চলুক চান, তাহলে এই পথ বেছে নিন। যেমন, কোনো support agent নথির collection বেছে নেওয়ার আগে একটি প্রশ্নকে শ্রেণিবদ্ধ করতে পারে। আপনার পুরো কাজটি যদি শুধু একটি category lookup হয়, তাহলে agent framework যোগ করার চেয়ে সরাসরি SDK call পড়া, পরীক্ষা করা এবং debug করা সহজ হতে পারে।
এমন একটি পরিস্থিতি যা আপনার পরিচিত লাগতে পারে
একটি assistant একাধিক পণ্য সম্পর্কে প্রশ্নের উত্তর দেয়। গ্রাহক কোন পণ্য নিয়ে কথা বলছেন, তা Jev-কে জিজ্ঞাসা করে শুধু সেই পণ্যের collection থেকেই document আনতে পারেন। বার্তায় দুটি পণ্যের উল্লেখ থাকলে বা যথেষ্ট context না থাকলে, আপনার অ্যাপ্লিকেশন একজন মানুষকে route-টি পর্যালোচনা করতে বলতে পারে।
যে tool-গুলো data পরিবর্তন করে, সেগুলোর জন্য স্পষ্ট permission check মডেলের বাইরে রাখুন। কোনো অনুকূল classification কখনোই ব্যবহারকারী বা অ্যাপ্লিকেশন না দেওয়া authorization তৈরি করবে না। মডেল পর্যালোচনায় সহায়তা করতে পারে; কী অনুমোদিত, তা আপনার code-কে অবশ্যই কার্যকর করতে হবে।
শুরু করার বাস্তবসম্মত সেটআপ
- Python project-এ official langchain-typesafe integration ইনস্টল করুন।
- TypeSafe API key কনফিগার করুন এবং আপনার ইনস্টল করা release-এর request shape পরীক্ষা করুন।
- অন্য ধাপগুলোর সঙ্গে compose করার আগে explicit state এবং question দিয়ে একটি classifier invoke করুন (state, questions)।
- প্রত্যাশিত category নথিভুক্ত করুন এবং representative conversation ব্যবহার করে ভুল route পর্যালোচনা করুন।
- শুধু তখনই experimental middleware যোগ করুন, যখন তার আচরণ এবং upgrade requirement আপনার অ্যাপ্লিকেশনের উপযোগী হয়।
বেছে নেওয়ার আগে যা বিবেচনা করবেন
বিদ্যমান system-এর সঙ্গে মানানসই হলে framework integration উপকারী। তবে এতে dependency বাড়ে এবং result রূপান্তরিত হওয়ার আরও জায়গা তৈরি হয়। আপনার debugging record-এ মূল decision এবং অ্যাপ্লিকেশন বেছে নেওয়া branch—দুটিই স্পষ্ট রাখুন; না হলে পরের কোনো failure-কে ভুল করে model error মনে হতে পারে।
Integration-এর documentation-এ LangSmith-এ tracing এবং usage information-এর কথা বলা হয়েছে। কোন customer field সংরক্ষণ করা হবে, তা-সহ observability ইচ্ছাকৃতভাবে কনফিগার করুন। Trace পাওয়া গেলে workflow তদন্তে সুবিধা হওয়া উচিত, প্রতিটি log-এ সম্পূর্ণ ব্যক্তিগত conversation কপি করার কারণ নয়।
অ্যাকাউন্ট ও ব্যবহারের খরচ
Integration package-এ বিনামূল্যের Jev inference অন্তর্ভুক্ত নেই। প্রতিটি workflow step-এর model call, আলাদা generative model এবং আপনার বেছে নেওয়া observability service-এর জন্য বাজেট রাখুন। বারবার চলা agent loop একটি user request-কে একাধিক evaluation-এ পরিণত করতে পারে, তাই সম্পূর্ণ task শেষ করতে কতটি call লাগে তা মাপুন। ব্যবহার বাড়ানোর আগে বর্তমান provider terms এবং ঐচ্ছিক service charge নিশ্চিত করুন।