Qué hace
Vercel documenta el acceso a Jev mediante AI Gateway y una interfaz de evaluación en AI SDK. La biblioteca proporciona la función que llama tu aplicación; la pasarela es el servicio que recibe y enruta la solicitud. Esta diferencia importa al configurar las credenciales o investigar un error.
El punto de entrada documentado de AI SDK es una API experimental de evaluación. Acepta contexto y preguntas con nombre, y después devuelve respuestas para esas preguntas. Aquí sirve para emitir un juicio que tu aplicación pueda usar, no para transmitir una respuesta escrita a la pantalla.
A quién le sirve
Esta ruta merece la pena si AI SDK ya forma parte de tu aplicación TypeScript y el equipo conoce su configuración de despliegue. Puedes mantener las decisiones cerca del código de modelos existente y darles al mismo tiempo un papel separado. Si tu aplicación solo necesita una solicitud a Jev, el SDK oficial de TypeSafe puede ser más fácil de mantener que adoptar una abstracción más amplia.
Una situación que quizá reconozcas
Una página de atención al cliente ya crea respuestas sugeridas. Antes de redactar, podría preguntar si el cliente necesita ayuda con su cuenta, soporte del producto o una revisión de facturación. Después, tu código selecciona el material de referencia adecuado y decide si debe generar un borrador.
Haz que la clasificación sea visible para quien revisa el caso. Si es incorrecta, cambiar solo el borrador no corregirá la ruta subyacente. Guarda la corrección como ejemplo de evaluación para poder comprobar futuros cambios en las preguntas frente al mismo error.
Una primera configuración sensata
- Confirma qué versión de AI SDK admite la interfaz de evaluación de Jev documentada.
- Configura en el entorno del servidor el método de autenticación de Gateway compatible.
- Usa el identificador del modelo de evaluación de Jev y el formato de solicitud de la guía de integración actual.
- Ejecuta una prueba pequeña que compruebe por separado la selección de categoría y la generación de respuestas.
- Añade una ruta alternativa y revisa el contrato de la API de evaluación al actualizar las dependencias.
Qué sopesar antes de elegir
Compartir un SDK puede hacer que el código sea más coherente, pero una interfaz experimental requiere atención durante las actualizaciones. Fija las dependencias de forma adecuada y conserva una comprobación de integración pequeña que verifique los campos que consume tu código. Que las llamadas de generación de texto funcionen no demuestra que la llamada de evaluación esté configurada correctamente.
El acceso mediante Gateway tampoco significa que todos los modelos acepten las mismas entradas o admitan las mismas operaciones. Mantén en el código de la aplicación las comprobaciones exactas de la cuenta y los permisos. Usa el resultado de la decisión como una entrada más de esas reglas, especialmente antes de que una acción afecte a un cliente.
Cuentas y costes de uso
Comprueba el acceso actual a los modelos de Gateway y las condiciones de facturación de tu cuenta. El alojamiento, la inferencia del modelo y cualquier otro servicio del flujo pueden generar costes independientes. Mide con qué frecuencia una solicitud entrante provoca clasificación, redacción y reintentos. Almacenar en caché un resultado de revisión que no haya cambiado puede ayudar, pero su clave también debe reflejar la pregunta y la versión del modelo evaluado.