できること
Jevは、指定した範囲内で、提供されたコンテキストを読み取り質問に答えます。たとえば、サポートキューを選ぶ、問い合わせの緊急度を評価する、メッセージに購入の問い合わせが含まれているか推定するといったことができます。アプリケーションは、次の処理に使える値を受け取ります。
質問には3種類あります。Choiceは名前付きの選択肢から選びます。Scoreは順序付けられたレベルに照らして評価します。どちらにも確率と信頼度が含まれます。Noulは、ある文が正しい確率を推定しますが、独立した信頼度フィールドはありません。Jevは顧客への返信文を書かず、アプリケーションが実行できるアクションを決めることもありません。
向いている人
短い文章を何度も読み、同じ種類の判断を繰り返すことがボトルネックになっているなら、ここから始めてください。少人数の営業チームが問い合わせを振り分けたり、サポート窓口がチケットを担当者に割り当てたりする場合は、役立つ最初のタスクを定義できます。注文が支払い済みかどうかを確認するだけなら、注文記録と通常のルールを使いましょう。文章の意味を解釈する必要があるときに、モデルが役立ちます。
身近に感じられる場面
本物の問い合わせ、バックリンク販売の営業、助けを求める既存顧客のメールが入った受信トレイを考えてみましょう。メッセージの意図を尋ね、その回答を顧客記録と組み合わせます。親しみやすいメールだからといって、相手が支払い済みだという証拠にはなりません。
「その他」を選択肢として残してください。パートナーシップを提案する顧客を、最初のリストが狭すぎたという理由だけで営業メールのカテゴリーに無理に入れるべきではありません。これは提案するワークフローであり、ToolAIの本番テストの報告ではありません。
まず行う設定
- 新しいメールをどのキューに送るかなど、担当者が明確な判断を1つ選びます。
- 曖昧なケースと「その他」の選択肢を含め、各カテゴリーの説明を書きます。
- 代表的なメッセージを集め、Jevの回答と比較する前に人がラベルを付けます。
- まずは提案されたタグから始め、自動振り分けを許可する前に誤りを確認します。
- 後から変更を公平に評価できるよう、モデルのバージョンと質問文を記録します。
選ぶ前に考えたいこと
型付き出力によって統合は簡単になりますが、判断が正しいと証明されるわけではありません。信頼度が高くても、回答が間違っていることはあります。レビューのしきい値は自社の例を使って決め、見逃した顧客と、問題のない追加レビューを分けて評価してください。
公式ドキュメントでは、主な学習言語は英語とされています。中国語やその他の言語は個別にテストしてください。計算や日付の比較はコードで行い、質問に必要なコンテキストだけを送ります。次のステップで説明文や返信文が必要なら、生成モデルを使ってください。
アカウントと実行コスト
ネイティブサービスにはTypeSafeのアカウントとAPIキーが必要です。記載されている課金基準は入力トークンであり、出力が無料でもリクエスト全体が無料になるわけではありません。現実的なメッセージの長さ、質問数、再試行回数から利用量を見積もってください。SDKはホスト型サービスに接続するもので、インストールしてもローカルのモデル重みは提供されません。導入を決める前に、公式のアカウント規約と現在の料金を確認してください。