TOOLAI / ToolAIガイドを読む / 公式ツール

TypeSafe Python SDK:Jevをスクリプトやサービスに組み込む

レコードの分類、メールの確認、すでに運用しているバックエンドへの再現可能な評価の追加に使える、Pythonから直接利用する方法です。

ToolAI Editorial確認日

できること

TypeSafe Python SDKは、ホスト型の意思決定API用クライアントです。PythonプログラムとTypeSafeの間のやり取りを処理しますが、データの取得、質問、結果に対する処理の決定は引き続きプログラムが行います。公式パッケージには同期クライアントと非同期クライアントがあります。

そのため、すでにPythonを使っているなら、実用的な出発点になります。1回限りの確認スクリプトには同期クライアントを、複数のリクエストを同時に処理するサービスには非同期クライアントを使えます。どちらを選んでも、Jevがローカルのテキスト生成ライブラリではなく意思決定モデルであることは変わりません。

向いている人

自分たちの記録と照らし合わせながら結果を確認したいバックエンド開発者やアナリストに向いています。メールのID、想定したラベル、返されたカテゴリ、レビュー結果を同じ表にまとめておけます。最初から大きなエージェントの内部に分類処理を組み込むよりも、そのほうが結果を把握しやすいことが多いでしょう。HTTP呼び出しが少し必要なだけなら、APIを直接使うのも妥当な選択です。

身近に感じられる場面

マーケティングチームが、先月のメールからバックリンクの提案を見つけたいとします。Pythonジョブで限られたサンプルを取得し、各メッセージがバックリンクを売り込むものか尋ね、提案結果を別のレビュー用ファイルに書き込めます。その後、人が受信トレイを変更せずに誤りを確認できます。

すべての行に元のメッセージIDを残してください。処理が途中で止まっても、完了した判断は再利用できるべきです。次の実行で、変更されていない同じメッセージを再び分類して費用をかけないようにします。この保存動作はアプリケーション側で実装します。

まず行う設定

  1. プロジェクトの環境に公式のtypesafe-sdkパッケージをインストールします。
  2. TypeSafe APIキーを作成し、ソースファイルではなくサーバー環境を通じて読み込みます。
  3. 明確な質問とともにサンプルを1件送り、型付きレスポンス全体を確認します。
  4. レコード数を増やす前に、小規模なラベル付き評価セットを作成します。
  5. ジョブをスケジュールする前に、タイムアウト、同時実行数の制限、進捗の保存を追加します。

選ぶ前に考えたいこと

クライアントライブラリを使うと定型的なリクエストコードは減らせますが、分類項目を設計したり、結果が役立つことを証明したりはできません。質問の文面としきい値は確認しやすく保ち、同じサンプルで変更をテストしてください。アプリケーションがすでにTypeScriptで書かれているなら、この呼び出しだけのためにPythonサービスを導入すると、不要な保守が増える可能性があります。

タイムアウトは否定的な回答ではなく、分類が完了していない状態として扱ってください。モデルは正確な算術処理を確実に置き換えられません。また、コードから渡されていない顧客情報を取得することもできません。

アカウントと実行コスト

パッケージのインストールと推論への支払いは別の話です。実行時のリクエストには利用可能なアクセス権を持つサービスアカウントが必要で、料金はそのプロバイダーの規約に従って請求されます。費用を見積もる際は、長いメッセージ、再試行、スケジュール実行による再処理を考慮してください。タスクに必要な顧客テキストだけを保存し、大量のアーカイブを収集する前に、評価ファイルを誰が読めるか決めておきましょう。

試してみますか?

github.com/typesafe-ai/typesafe-sdk-python