무엇을 하는가
Jev는 사용자가 제공한 맥락을 읽고, 정해 둔 범위 안에서 질문에 답합니다. 예를 들어 지원 대기열을 선택하거나, 요청의 긴급도를 평가하거나, 메시지에 구매 문의가 포함되어 있는지 추정할 수 있습니다. 애플리케이션은 다음 단계에 사용할 수 있는 값을 받습니다.
질문 유형은 세 가지입니다. Choice는 이름이 지정된 옵션 중 하나를 선택합니다. Score는 순서가 있는 단계에 따라 평가합니다. 두 유형 모두 확률과 신뢰도를 포함합니다. Noul은 어떤 진술이 참일 확률을 추정하며, 별도의 신뢰도 필드는 없습니다. Jev는 고객의 답장을 작성하지 않으며, 애플리케이션이 수행할 수 있는 작업을 결정하지도 않습니다.
누구에게 적합한가
짧은 텍스트를 반복해서 읽고 같은 종류의 판단을 내리는 일이 병목이라면 여기서 시작해 보세요. 소규모 영업팀이 문의를 분류하거나 지원 데스크가 티켓을 배정하는 일처럼, 첫 작업을 구체적으로 정할 수 있습니다. 단순히 주문 결제 여부만 확인하면 된다면 주문 기록과 일반 규칙을 사용하세요. 문구를 해석해야 할 때 모델이 유용합니다.
익숙할 만한 상황
실제 문의, 백링크 판매 제안, 도움을 요청하는 기존 고객의 메시지가 섞인 받은편지함을 생각해 보세요. 메시지의 의도를 묻고, 그 답을 고객 기록과 결합합니다. 친절한 이메일이라는 사실만으로 상대가 돈을 지불했다는 증거가 되지는 않습니다.
“기타”를 선택 가능한 범주로 남겨 두세요. 제휴를 제안하는 고객을 처음 목록이 너무 좁았다는 이유만으로 영업 제안 범주에 억지로 넣어서는 안 됩니다. 이는 제안된 작업 흐름이며, ToolAI의 실제 운영 테스트 결과가 아닙니다.
합리적인 첫 설정
- 담당자가 분명한 의사결정 하나를 고르세요. 예를 들면 새 이메일을 어느 대기열로 보낼지 정하는 일입니다.
- 모호한 사례와 “기타” 옵션을 포함해 각 범주의 설명을 작성하세요.
- 대표적인 메시지를 모으고, Jev의 답을 비교하기 전에 사람이 먼저 라벨을 지정하게 하세요.
- 추천 태그부터 시작하고, 자동 라우팅을 허용하기 전에 실수를 검토하세요.
- 나중에 변경 사항을 공정하게 평가할 수 있도록 모델 버전과 질문 문구를 기록하세요.
선택하기 전에 따져볼 점
유형이 지정된 출력은 통합을 쉽게 해 주지만, 판단이 옳다는 뜻은 아닙니다. 신뢰도가 높아도 틀린 답이 나올 수 있습니다. 비즈니스 사례를 바탕으로 검토 기준을 정하고, 놓친 고객과 단순히 검토가 늘어난 경우를 따로 평가하세요.
공식 문서에 따르면 기본 학습 언어는 영어입니다. 중국어와 다른 언어는 별도로 테스트하세요. 산술과 날짜 비교는 코드에서 처리하고, 질문에 필요한 맥락만 보내세요. 다음 단계에 설명이나 답장 작성이 필요하다면 생성형 모델을 사용하세요.
계정 및 실행 비용
기본 서비스에는 TypeSafe 계정과 API 키가 필요합니다. 문서에 명시된 과금 기준은 입력 토큰입니다. 출력이 무료여도 전체 요청이 무료가 되는 것은 아닙니다. 현실적인 메시지 길이, 질문 수, 재시도량을 기준으로 사용량을 추정하세요. SDK는 호스팅 서비스에 연결할 뿐이며, SDK를 설치한다고 로컬 모델 가중치가 제공되지는 않습니다. 도입하기 전에 공식 계정 약관과 현재 가격을 확인하세요.