Fungsinya
Cloudflare AI mencantumkan Jev sebagai model pihak ketiga dan mendokumentasikan panggilan melalui binding AI Worker atau API HTTP. Dengan cara ini, Anda dapat menambahkan langkah keputusan ke aplikasi yang sudah berjalan di Cloudflare tanpa membangun layanan Python atau Node terpisah hanya untuk permintaan tersebut.
Worker menerima permintaan, menyiapkan konteks yang relevan, dan membaca jawaban bertipe dari Jev. Kode Anda sendiri tetap menentukan tempat penyimpanannya dan tindakan yang diizinkan. Ketersediaan melalui Cloudflare bukan berarti bobot Jev berjalan di dalam Worker Anda atau di setiap lokasi edge.
Cocok untuk siapa
Rute ini cocok untuk tim yang sudah terbiasa dengan Workers, binding, dan izin akun Cloudflare. Rute ini dapat berguna untuk mengklasifikasikan pengiriman formulir atau meneruskan permintaan berbasis teks di dekat titik masuk aplikasi yang sudah ada. Untuk pekerjaan yang sudah berjalan andal di platform lain, mengubah hosting hanya demi mengakses Jev memerlukan alasan yang lebih kuat daripada sekadar adanya daftar model.
Situasi yang mungkin Anda kenali
Misalkan sebuah direktori menerima kiriman alat melalui Worker. Jev dapat menyarankan apakah suatu kiriman merupakan listing produk, pertanyaan dukungan, atau promosi yang tidak berkaitan. Simpan saran tersebut di samping kiriman, lalu biarkan editor memperbaikinya sebelum dipublikasikan.
Model yang tidak tersedia seharusnya tidak membuat kiriman yang valid menghilang. Simpan permintaan asli terlebih dahulu jika alur kerja Anda mengharuskannya, lalu tandai klasifikasinya sebagai tertunda. Dengan begitu, pekerjaan pengguna tetap utuh sementara aplikasi Anda menangani percobaan ulang atau peninjauan manual di kemudian waktu.
Penyiapan awal yang masuk akal
- Konfirmasikan akses Jev dan izin yang diperlukan di akun Cloudflare Anda.
- Konfigurasikan binding AI milik Worker, atau siapkan autentikasi HTTP sesuai dokumentasi.
- Gunakan pengenal model Cloudflare dan format input yang ditunjukkan dalam dokumentasi Jev-nya.
- Uji kiriman yang realistis, termasuk kolom respons yang akan disimpan oleh aplikasi Anda.
- Tangani timeout dan klasifikasi yang tidak lengkap sebelum menghubungkan hasilnya ke antrean.
Hal yang perlu dipertimbangkan sebelum memilih
Binding dapat mengurangi kode koneksi, tetapi tidak menghilangkan batas permintaan, kegagalan jaringan, atau kesalahan model. Tetapkan batas waktu yang sesuai dengan tugas pengguna. Konfirmasi formulir dan antrean peninjauan di latar belakang sering kali memiliki kebutuhan yang berbeda.
Simpan kredensial dan format permintaan yang spesifik untuk rute ini. Kunci TypeSafe dan token API Cloudflare tidak dapat saling menggantikan. Tinjau juga ketentuan penanganan data yang berlaku untuk layanan pilihan Anda; melakukan panggilan melalui suatu platform tidak dengan sendirinya menjawab di mana setiap bagian permintaan diproses.
Akun dan biaya penggunaan
Tinjau ketentuan penagihan Cloudflare terbaru untuk model tersebut bersama dengan sumber daya Workers yang digunakan aplikasi Anda. Satu panggilan contoh yang berhasil tidak menunjukkan biaya seluruh kiriman selama sebulan. Sertakan percobaan ulang serta antrean atau penyimpanan apa pun dalam perkiraan Anda, lalu bandingkan dengan penggunaan aktual selama uji coba kecil. Hindari mengirim seluruh riwayat jika kiriman saat ini sudah memuat semua hal yang dibutuhkan pertanyaan tersebut.