무엇을 하는가
Cloudflare AI는 Jev를 서드파티 모델로 등록하고 Worker의 AI 바인딩 또는 HTTP API를 통한 호출 방법을 문서화하고 있습니다. 따라서 해당 요청 하나만을 위해 별도의 Python 또는 Node 서비스를 구축하지 않고도, 이미 Cloudflare에서 실행 중인 애플리케이션에 결정 단계를 추가할 수 있습니다.
Worker가 요청을 받고 관련 컨텍스트를 준비한 뒤 Jev의 타입이 지정된 답을 읽습니다. 어디에 저장할지와 어떤 작업을 허용할지는 여전히 자체 코드가 결정합니다. Cloudflare를 통해 사용할 수 있다고 해서 Jev의 가중치가 사용자의 Worker 내부나 모든 엣지 위치에서 실행된다는 뜻은 아닙니다.
누구에게 적합한가
Workers, 바인딩, Cloudflare 계정 권한에 이미 익숙한 팀에 적합한 경로입니다. 애플리케이션의 기존 진입점 가까이에서 양식 제출을 분류하거나 텍스트 요청을 라우팅할 때 유용할 수 있습니다. 다른 플랫폼에서 이미 안정적으로 실행되는 작업이라면, 모델 등록 정보가 있다는 이유만으로 Jev에 접근하기 위해 호스팅 환경을 바꾸기에는 더 강한 근거가 필요합니다.
익숙할 만한 상황
디렉터리가 Worker를 통해 도구 제출을 받는다고 가정해 보겠습니다. Jev는 제출 내용이 제품 목록인지, 지원 문의인지, 아니면 관련 없는 홍보인지 판단하도록 제안할 수 있습니다. 제안 결과를 제출 내용 옆에 저장하고, 게시 전에 편집자가 이를 수정할 수 있게 하세요.
모델을 사용할 수 없다고 해서 유효한 제출 내용이 사라져서는 안 됩니다. 워크플로에서 필요하다면 먼저 원래 요청을 저장한 다음 분류 상태를 대기로 표시하세요. 그러면 애플리케이션이 나중에 재시도하거나 수동으로 검토하는 동안에도 사용자의 작업을 그대로 보존할 수 있습니다.
합리적인 첫 설정
- Cloudflare 계정에서 Jev 액세스 권한과 필요한 권한을 확인하세요.
- Worker의 AI 바인딩을 구성하거나 문서에 설명된 HTTP 인증을 준비하세요.
- Jev 문서에 나온 Cloudflare 모델 식별자와 입력 형식을 사용하세요.
- 애플리케이션이 저장할 응답 필드를 포함해 실제와 비슷한 제출 내용을 테스트하세요.
- 결과를 대기열에 연결하기 전에 시간 초과와 불완전한 분류를 처리하세요.
선택하기 전에 따져볼 점
바인딩을 사용하면 연결 코드가 줄어들 수 있지만, 요청 제한이나 네트워크 오류, 모델의 실수까지 없어지는 것은 아닙니다. 사용자의 작업에 맞는 시간 예산을 설정하세요. 양식 확인과 백그라운드 검토 대기열은 서로 다른 요구 사항을 가질 수 있습니다.
이 경로에 사용할 자격 증명과 요청 형식을 명확히 구분하세요. TypeSafe 키와 Cloudflare API 토큰은 서로 바꿔 쓸 수 없습니다. 또한 선택한 서비스에 적용되는 데이터 처리 약관을 검토하세요. 플랫폼을 통해 호출한다고 해서 요청의 모든 부분이 어디에서 처리되는지가 자동으로 명확해지는 것은 아닙니다.
계정 및 실행 비용
애플리케이션이 사용하는 Workers 리소스와 함께 모델의 최신 Cloudflare 청구 약관을 검토하세요. 호출 예제가 성공했다고 해서 한 달 동안 전체 제출을 처리하는 비용을 알 수 있는 것은 아닙니다. 예상 비용에 재시도와 대기열 또는 저장소 비용도 포함한 다음, 소규모 파일럿에서 실제 사용량을 비교하세요. 현재 제출 내용만으로 질문에 답할 수 있다면 전체 대화 기록을 보내지 마세요.