Công cụ này làm gì
SDK JavaScript chính thức kết nối các ứng dụng JavaScript và TypeScript với API của TypeSafe. Các trình trợ giúp câu hỏi có kiểu cho phép kiểu dữ liệu của câu trả lời bám theo câu hỏi bạn định nghĩa, nhờ đó một danh mục được chọn có thể được dùng trong phần còn lại của chương trình mà không cần xem phản hồi như một đoạn văn phải phân tích.
Với một sản phẩm web, lời gọi này thường nên nằm ở máy chủ. Trình duyệt gửi yêu cầu của người dùng đến ứng dụng, máy chủ gọi Jev, rồi giao diện hiển thị đề xuất nhận được. Giữ ranh giới này rõ ràng cũng giúp khóa API không bị đưa vào gói mã của trình duyệt.
Phù hợp với ai
Đây là lựa chọn đơn giản cho các nhóm đã duy trì một backend JavaScript. Nó phù hợp khi sản phẩm cần một quyết định tập trung bên cạnh mã hiện có, chẳng hạn như đề xuất nhóm khách hàng tiềm năng hoặc hàng đợi hỗ trợ. Nếu nhóm của bạn đã dùng AI SDK cho nhiều nhà cung cấp, hãy so sánh cả tích hợp đó; các quy ước dùng chung có thể quan trọng hơn việc có một client trực tiếp nhất.
Một tình huống bạn có thể gặp
Một biểu mẫu liên hệ trên website nhận cả đề xuất hợp tác lẫn câu hỏi của khách hàng. Máy chủ của bạn có thể hỏi Jev về mục đích có khả năng nhất rồi hiển thị nơi tiếp nhận được đề xuất cho người xử lý hộp thư. Người đánh giá vẫn nên thấy yêu cầu ban đầu và có thể thay đổi danh mục.
Nếu khách truy cập gửi cùng một biểu mẫu hai lần, hãy dùng mã định danh yêu cầu riêng của bạn để ngăn tạo bản ghi trùng lặp. Phản hồi của mô hình không thay thế được cơ chế kiểm soát đó. Tương tự, việc xác định một yêu cầu là khẩn cấp không nên tự động cấp quyền gửi tin nhắn hoặc thay đổi tài khoản.
Cách thiết lập ban đầu hợp lý
- Kiểm tra các yêu cầu hiện tại của môi trường chạy và cài đặt @typesafe-ai/sdk trong dự án máy chủ.
- Nạp khóa API từ môi trường triển khai và không đưa khóa đó vào mã phía máy khách.
- Xác định một danh sách ngắn các danh mục có ý nghĩa, rồi gửi một mẫu bằng client chính thức.
- Thêm phương án dự phòng hiển thị rõ ràng khi dịch vụ không khả dụng hoặc kết quả phân loại không chắc chắn.
- Kiểm thử toàn bộ quy trình từ biểu mẫu đến đánh giá trước khi cho phép kết quả kích hoạt các hành động tiếp theo.
Cần cân nhắc gì trước khi chọn
Suy luận kiểu giúp phát hiện các trường không khớp trong quá trình phát triển, nhưng không thể phát hiện một danh mục nghiệp vụ được định nghĩa kém. Kết quả có thể hợp lệ về cấu trúc nhưng vẫn chuyển yêu cầu đến sai nhóm. Hãy giữ một mẫu đánh giá và kiểm thử các tin nhắn có nhiều ý định, lỗi chính tả và các ngôn ngữ khách hàng của bạn sử dụng.
Tránh để một trang tương tác chờ vô thời hạn trong khi đợi quyết định. Nếu việc phân loại mất quá nhiều thời gian, hãy lưu yêu cầu và cho người dùng tiếp tục; ứng dụng của bạn có thể hoàn tất việc phân loại sau.
Tài khoản và chi phí vận hành
SDK là cách truy cập dịch vụ, không phải số dư cuộc gọi mô hình được bao gồm sẵn. Bạn cần quyền truy cập API phù hợp, còn chi phí lưu trữ tách biệt với phí suy luận. Hãy so sánh chi phí dựa trên lượng văn bản gửi trong mỗi yêu cầu và số lần gọi thực tế. Việc làm mới trang hoặc gửi lại biểu mẫu không nên khiến nội dung không thay đổi bị phân loại lại một cách không cần thiết.