Tinker

সংক্ষিপ্ত পরিচিতি

Tinker হলো Thinking Machines Lab-এর training infrastructure, যা GPU cluster পরিচালনা না করেই বড় open model-এ fine-tuning বা reinforcement learning চালাতে চাওয়া দলগুলোর জন্য তৈরি। আপনার code training loop নিয়ন্ত্রণ করে; Tinker সেটি shared GPU pool-এ চালায় এবং infrastructure failure সামলায়।

প্রধান বৈশিষ্ট্য

• চারটি মূল call: sample chat, evaluation বা RL rollout-এর জন্য token তৈরি করে; forward_backward gradient জমা করে; optim_step weight আপডেট করে; এবং save_state checkpoint ও resume সমর্থন করে।
• LoRA training: সব weight-এর বদলে একটি ছোট adapter train করে। Thinking Machines-এর মতে, সঠিক setup-এ কম compute ব্যবহার করে এটি full fine-tuning-এর সমতুল্য ফল দিতে পারে।
• Recipes: supervised fine-tuning, math ও terminal agent-সহ RL, RLHF, on-policy distillation, search tool এবং forecasting।
• Models: Inkling 2 Small (মোট 594B, active 17B), Inkling (975B, active 41B) এবং Inkling-Small (276B, active 12B)—সবগুলোর 256K context রয়েছে; এছাড়া Kimi-K2.6, GPT-OSS-120B ও Qwen3-8B-এর মতো model।
• Serverless inference (beta) Inkling model-এর জন্য।

মূল্য

Training, sampling এবং prefill-এর মূল্য প্রতি million token হিসেবে নির্ধারিত হয় এবং model ও context length অনুযায়ী বদলায়। বর্তমান rate-এর জন্য Tinker-এর pricing page দেখুন। Checkpoint storage-এর মূল্য প্রতি GB প্রতি মাসে $0.10।

কার জন্য

ML engineer এবং research team, যারা নিজেদের data ও reward function দিয়ে open model customize করতে চান এবং training loop নিজেরাই লিখতে পছন্দ করেন।

শুরু করার উপায়

Tinker site-এ sign up করুন, একটি ছোট model বেছে নিন এবং RL-এ যাওয়ার আগে কয়েকশ example দিয়ে একটি supervised fine-tuning recipe চালান। বেশি access প্রয়োজন হলে university ও organization-গুলো team-এর সঙ্গে যোগাযোগ করতে পারে।

যা মনে রাখা দরকার

প্রতিটি training ও sampling token-এর জন্য অর্থ দিতে হয়, তাই ছোট পরিসরে শুরু করে ঘন ঘন evaluation করুন। কিছু পুরনো model অবসর নেওয়া হচ্ছে; কোনো model-এর ওপর কাজ শুরু করার আগে model list দেখে নিন।

অনুরূপ tool

Together AI fine-tuning, OpenAI fine-tuning, Fireworks AI, Hugging Face AutoTrain, Modal।