Tinker

अवलोकन

Tinker, Thinking Machines Lab का प्रशिक्षण इंफ्रास्ट्रक्चर है। यह उन टीमों के लिए है जो GPU क्लस्टर प्रबंधित किए बिना बड़े ओपन मॉडल पर fine-tuning या reinforcement learning चलाना चाहती हैं। आपका कोड training loop नियंत्रित करता है; Tinker इसे साझा GPU पूल पर चलाता है और इंफ्रास्ट्रक्चर विफलताओं को संभालता है।

मुख्य सुविधाएँ

• चार मुख्य कॉल: sample चैट, मूल्यांकन या RL rollouts के लिए tokens बनाता है; forward_backward gradients जमा करता है; optim_step weights अपडेट करता है; और save_state checkpoint तथा resume की सुविधा देता है।
• LoRA प्रशिक्षण: सभी weights के बजाय छोटा adapter प्रशिक्षित करता है। Thinking Machines के अनुसार, सही सेटअप में यह कम compute का उपयोग करते हुए full fine-tuning जैसा परिणाम दे सकता है।
• Recipes: supervised fine-tuning, math और terminal agents सहित RL, RLHF, on-policy distillation, search tools और forecasting।
• मॉडल: Inkling 2 Small (कुल 594B, सक्रिय 17B), Inkling (975B, सक्रिय 41B) और Inkling-Small (276B, सक्रिय 12B), सभी 256K context के साथ; साथ ही Kimi-K2.6, GPT-OSS-120B और Qwen3-8B जैसे मॉडल।
• Serverless inference (beta): Inkling मॉडलों के लिए।

मूल्य निर्धारण

Training, sampling और prefill की कीमत प्रति million tokens है और यह मॉडल तथा context length के अनुसार बदलती है। वर्तमान दरों के लिए Tinker का pricing पेज देखें। Checkpoint storage की कीमत $0.10 प्रति GB प्रति माह है।

किसके लिए

ML इंजीनियर और शोध टीमें जो अपने डेटा तथा reward functions के साथ ओपन मॉडल को अनुकूलित करना चाहती हैं और training loop स्वयं लिखना पसंद करती हैं।

शुरू कैसे करें

Tinker साइट पर साइन अप करें, छोटा मॉडल चुनें और RL पर जाने से पहले कुछ सौ उदाहरणों पर supervised fine-tuning recipe चलाएँ। व्यापक पहुँच चाहने वाले विश्वविद्यालय और संगठन टीम से संपर्क कर सकते हैं।

ध्यान देने योग्य बातें

हर training और sampling token के लिए भुगतान करना होता है, इसलिए छोटे स्तर से शुरू करें और अक्सर मूल्यांकन करें। कुछ पुराने मॉडल हटाए जा रहे हैं, इसलिए किसी मॉडल पर निर्माण करने से पहले मॉडल सूची जाँच लें।

समान टूल

Together AI fine-tuning, OpenAI fine-tuning, Fireworks AI, Hugging Face AutoTrain, Modal.