Что он делает
Jev читает предоставленный вами контекст и отвечает на вопрос в заданных вами рамках. Например, он может выбрать очередь поддержки, оценить срочность запроса или определить вероятность того, что в сообщении есть запрос на покупку. Ваше приложение получает значение, которое может использовать на следующем шаге.
Есть три типа вопросов. Choice выбирает один из именованных вариантов. Score оценивает результат по упорядоченным уровням. Оба типа включают вероятности и уверенность. Noul оценивает вероятность истинности утверждения; отдельного поля уверенности у него нет. Jev не пишет ответ клиенту и не решает, какие действия разрешено выполнять вашему приложению.
Кому подходит
Начните с этого варианта, если узкое место в вашей работе — регулярное чтение коротких текстов и вынесение однотипных суждений. Небольшая команда продаж может сортировать запросы, а служба поддержки — распределять обращения по очередям. Если нужно лишь проверить, оплачен ли заказ, используйте данные заказа и обычное правило. Модель полезна, когда формулировку нужно интерпретировать.
Знакомая вам ситуация
Представьте папку входящих писем с настоящими запросами, предложениями о продаже обратных ссылок и вопросами действующих клиентов. Запросите намерение автора сообщения, а затем объедините этот ответ с данными о клиентах. Дружелюбное письмо не доказывает, что кто-то вам заплатил.
Оставьте категорию «другое» доступной. Клиента, предлагающего партнёрство, не следует принуждать к категории коммерческого предложения только потому, что ваш исходный список оказался слишком узким. Это рекомендуемый рабочий процесс, а не отчёт о производственном тестировании ToolAI.
Разумная первая настройка
- Выберите одно решение с понятным ответственным, например очередь, в которую попадёт новое письмо.
- Опишите категории, включая неоднозначные случаи и вариант «другое».
- Соберите репрезентативные сообщения и попросите человека разметить их до сравнения с ответами Jev.
- Начните с рекомендуемых тегов и проверьте ошибки, прежде чем включать автоматическую маршрутизацию.
- Записывайте версию модели и формулировку вопроса, чтобы последующие изменения можно было справедливо оценивать.
Что учесть перед выбором
Типизированный результат упрощает интеграцию, но не доказывает правильность суждения. Высокая уверенность может сопровождать неверный ответ. Определяйте пороги проверки по примерам из своего бизнеса и отдельно оценивайте пропущенных клиентов и безобидные дополнительные проверки.
В официальной документации английский указан как основной язык обучения. Китайский и другие языки тестируйте отдельно. Арифметику и сравнение дат выполняйте в коде, а в запрос передавайте только необходимый контекст. Используйте генеративную модель, если на следующем шаге нужно написать объяснение или ответ.
Учётные записи и расходы на запуск
Для нативного сервиса нужны учётная запись TypeSafe и API-ключ. Согласно документации, оплата рассчитывается по входным токенам; бесплатный вывод не означает, что весь запрос бесплатен. Оцените расход по реалистичной длине сообщений, числу вопросов и количеству повторных попыток. SDK подключаются к размещённому сервису; установка SDK не предоставляет локальные веса модели. Перед началом работы проверьте официальные условия для учётной записи и актуальные цены.