Công cụ này làm gì
Cloudflare AI liệt kê Jev là một model bên thứ ba và hướng dẫn gọi model này thông qua AI binding của Worker hoặc một HTTP API. Nhờ đó, bạn có thể thêm một bước quyết định vào ứng dụng đang chạy trên Cloudflare mà không cần xây dựng riêng một dịch vụ Python hoặc Node chỉ cho request đó.
Worker nhận request, chuẩn bị context liên quan và đọc câu trả lời có kiểu của Jev. Mã của bạn vẫn quyết định nơi lưu kết quả và hành động nào được phép. Việc Jev khả dụng qua Cloudflare không có nghĩa trọng số của Jev chạy bên trong Worker hoặc tại mọi vị trí edge.
Phù hợp với ai
Tuyến này phù hợp với các nhóm đã quen dùng Workers, binding và quyền tài khoản Cloudflare. Nó có thể hữu ích để phân loại nội dung gửi từ biểu mẫu hoặc định tuyến request dạng văn bản gần với điểm truy cập hiện có của ứng dụng. Với một tác vụ đã chạy ổn định trên nền tảng khác, việc đổi nơi hosting chỉ để truy cập Jev cần một lý do thuyết phục hơn việc có một model được liệt kê.
Một tình huống bạn có thể gặp
Giả sử một thư mục nhận các nội dung gửi lên thông qua một Worker. Jev có thể gợi ý xem một nội dung là bài đăng sản phẩm, câu hỏi hỗ trợ hay quảng cáo không liên quan. Lưu gợi ý bên cạnh nội dung gửi lên và để biên tập viên sửa lại trước khi xuất bản.
Một model không khả dụng không nên khiến nội dung hợp lệ biến mất. Nếu quy trình của bạn yêu cầu, hãy lưu yêu cầu gốc trước, rồi đánh dấu việc phân loại là đang chờ xử lý. Nhờ vậy, công việc của người dùng vẫn được giữ nguyên trong khi ứng dụng xử lý lần thử lại sau hoặc chờ người kiểm tra thủ công.
Cách thiết lập ban đầu hợp lý
- Xác nhận quyền truy cập Jev và các quyền cần thiết trong tài khoản Cloudflare của bạn.
- Cấu hình liên kết AI của Worker hoặc chuẩn bị phương thức xác thực HTTP theo tài liệu.
- Sử dụng mã định danh model Cloudflare và định dạng đầu vào được nêu trong tài liệu Jev.
- Kiểm thử một nội dung gửi lên thực tế, bao gồm các trường phản hồi mà ứng dụng sẽ lưu.
- Xử lý tình trạng hết thời gian chờ và phân loại chưa hoàn tất trước khi nối kết quả với một hàng đợi.
Cần cân nhắc gì trước khi chọn
Một liên kết có thể giúp giảm phần mã kết nối, nhưng không loại bỏ giới hạn yêu cầu, lỗi mạng hay lỗi của model. Hãy đặt thời gian xử lý phù hợp với tác vụ của người dùng. Việc xác nhận biểu mẫu và hàng đợi xem xét chạy nền thường có nhu cầu khác nhau.
Giữ thông tin xác thực và định dạng yêu cầu riêng cho tuyến này. Khóa TypeSafe và token API Cloudflare không thể dùng thay thế cho nhau. Đồng thời, hãy xem lại các điều khoản xử lý dữ liệu áp dụng cho dịch vụ bạn chọn; gọi thông qua một nền tảng không tự trả lời được việc từng phần của yêu cầu được xử lý ở đâu.
Tài khoản và chi phí vận hành
Xem lại các điều khoản thanh toán Cloudflare hiện tại của model cùng với tài nguyên Workers mà ứng dụng sử dụng. Một lần gọi mẫu thành công không cho biết chi phí của cả tháng gửi nội dung sẽ là bao nhiêu. Đưa các lần thử lại, hàng đợi và bộ nhớ lưu trữ vào ước tính, rồi so sánh mức sử dụng thực tế trong một đợt thử nghiệm nhỏ. Tránh gửi toàn bộ lịch sử khi nội dung hiện tại đã chứa đủ thông tin cần thiết cho câu hỏi.