Skip to main content

Descripción general

Las conexiones LLM en ABBYY Vantage le permiten integrar potentes modelos de lenguaje de proveedores como OpenAI y Microsoft Foundry directamente en sus flujos de trabajo de procesamiento de documentos. Estas conexiones permiten que sus Skill de documento aprovechen IA de última generación para lograr una extracción, clasificación y comprensión más precisas de documentos complejos. Lo que conseguirá:
  • Acceder a la configuración de Connections
  • Agregar una nueva conexión LLM
  • Configurar las credenciales y los parámetros de la conexión
  • Probar su conexión
Tiempo estimado para completar: 10-15 minutos Proveedores de LLM compatibles:
  • OpenAI ChatGPT
  • Microsoft Foundry
Nota: Actualmente, las conexiones LLM solo se pueden usar en Skill de documento a través de ABBYY Advanced Designer.

Requisitos previos

Antes de comenzar, asegúrate de contar con:
  1. Acceso de administrador a la configuración de ABBYY Vantage.
  2. Credenciales de API de tu proveedor de LLM seleccionado:
    • OpenAI: clave de API de tu cuenta de OpenAI.
    • Microsoft Foundry: clave de API, url completa del endpoint (incluida la ruta /chat/completions y la versión de la API) y el nombre del modelo de Microsoft Foundry en Azure.
  3. Suscripción activa con tu proveedor de LLM.
Nota: Las conexiones de LLM se administran a nivel de tenant y pueden ser utilizadas por todos los diseñadores de skills de tu organización. Actualmente, las conexiones de LLM solo pueden integrarse en Skill de documento a través de ABBYY Advanced Designer.

Paso 1: Acceder a Configuration

Navegue al área Configuration donde administrará las conexiones con LLM.
  1. En la interfaz de ABBYY Vantage, ubique la sección ADMIN en la barra lateral izquierda.
  2. Haga clic en Configuration (icono de engranaje).
Acceder a Configuration Verá la página Configuration con varias opciones en el menú de la izquierda:
  • General
  • Connections (aquí es donde trabajaremos)
  • Identity Provider
  • Public API Client
  • Security Log
  • Environment Variables
  • IP Restrictions

Paso 2: Vaya a Connections

Acceda a la interfaz de administración de Connections.
  1. En el menú izquierdo de Configuration, haga clic en Connections.
Connections Page La página Connections muestra:
  • Lista de conexiones existentes (si las hay)
  • Detalles de la conexión: Name, Description, Used in Skills, Last Updated
  • Botones de administración: Add Connection, Test, Edit, Delete
  • Funcionalidad de búsqueda para encontrar conexiones específicas
Nota: Las Connections son recursos compartidos. Todos los diseñadores de skills de su tenant pueden usar estas Connections en sus skills.

Paso 3: Agregar una nueva conexión LLM

Inicie el proceso de creación de una nueva conexión con su proveedor de LLM.
  1. Haga clic en el botón + Add Connection en la parte superior de la página Connections.
  2. Aparecerá el cuadro de diálogo Add Connection, que muestra los proveedores de LLM disponibles:
    • OpenAI ChatGPT: conexión directa con la API de OpenAI
    • Microsoft Foundry: modelos de OpenAI y otros modelos de IA alojados en la infraestructura Azure de Microsoft
  3. Seleccione el proveedor que desee (para este ejemplo, usaremos Microsoft Foundry).
  4. Haga clic en Next.
Nota: Cada proveedor tiene diferentes requisitos de configuración. Elija el proveedor que corresponda a la suscripción de LLM de su organización.

Paso 4: Configurar los detalles de la conexión

Complete la información requerida para la conexión con su LLM. Connection Configuration

Configuración general

Name
  • Un identificador único para esta conexión
  • Ejemplo: Microsoft Foundry o Production GPT-4
  • Este nombre aparecerá al seleccionar conexiones en Skill de documento.
Description
  • Opcional pero recomendada.
  • Proporcione contexto útil sobre la conexión.
  • Ejemplo: “Microsoft Foundry Connection 1” o “GPT-4 Production API”.
  • Importante: No incluya credenciales confidenciales en la descripción.
Note: Elija nombres descriptivos que ayuden a los diseñadores de skills a entender qué conexión usar para diferentes propósitos.

Configuración de la conexión

Los campos requeridos dependen de su proveedor de LLM:

Para Microsoft Foundry:

API Key
  • Tu clave de API de Microsoft Foundry en el portal de Azure.
  • Puedes encontrarla en: Azure Portal → Tu recurso de Microsoft Foundry → Keys and Endpoint.
  • Formato: Una cadena alfanumérica larga.
  • Ejemplo de marcador de posición: [API Key Here]
Url
  • Tu url de endpoint de Microsoft Foundry.
  • Puedes encontrarla en: Azure Portal → Tu recurso de Microsoft Foundry → Keys and Endpoint.
  • Formato: https://[resource].cognitiveservices.azure.com/openai/deployments/[model-name]/chat/completions?api-version=2025-01-01-preview
  • Ejemplo: https://[redacted]resource.cognitiveservices.azure.com/openai/deployments/gpt-4.1-nano/chat/completions?api-version=2025-01-01-preview
Model Name
  • El nombre de tu modelo desplegado en Microsoft Foundry.
  • Puedes encontrarlo en: Azure Portal → Tu recurso de Microsoft Foundry → Deployments.
  • Ejemplo: gpt-4.1-nano, gpt-35-turbo, gpt-4
  • Debe coincidir exactamente con tu despliegue.

Para OpenAI ChatGPT:

API Key
  • Tu clave de API de OpenAI desde platform.openai.com.
  • Puedes encontrarla en: OpenAI Platform → API Keys.
  • Formato: Comienza con sk-
Modelo
  • El modelo específico que se va a usar (por ejemplo, gpt-4, gpt-3.5-turbo)
Advertencia: Nunca compartas claves de API ni las incluyas en descripciones. Estas credenciales otorgan acceso a tus servicios de LLM y a los costos asociados.

Paso 5: Pruebe su conexión

Compruebe que su conexión esté configurada correctamente antes de guardar.
  1. Después de ingresar toda la información requerida, haga clic en el botón Test.
Testing Connection
  1. Vantage intentará conectarse a su proveedor de LLM usando las credenciales que proporcionó.
  2. Revise el resultado de la prueba:
    • Éxito (marca de verificación verde): La conexión funciona correctamente.
    • Error (X roja o mensaje de error): Verifique sus credenciales y vuelva a intentarlo.

Resultados de la prueba

Prueba exitosa:
  • Aparece una marca de verificación verde junto a su conexión.
  • Ahora puede guardar la conexión.
  • La conexión está lista para usarse en Skills de documento.
Prueba fallida:
  • Revise el mensaje de error para identificar problemas específicos.
  • Problemas comunes:
    • Clave de API incorrecta
    • URL de endpoint no válida
    • Nombre de modelo incorrecto
    • Problemas de conectividad de red
    • Permisos o cuota insuficientes
Nota: Siempre pruebe su conexión antes de guardarla. Esto garantiza que sus Skills de documento puedan usar correctamente el proveedor de LLM.

Paso 6: Guarde su conexión

Finalice la configuración de la conexión.
  1. Una vez que la prueba se complete correctamente, haga clic en el botón Add.
  2. Su conexión ahora aparece en la lista Connections.
  3. La conexión está disponible de inmediato para todos los diseñadores de skills de su tenant.
La página Connections ahora muestra:
  • Connection name: Como lo especificó
  • Description: Su descripción informativa
  • Used in Skills: Mostrará qué skills utilizan esta conexión
  • Last Updated: Fecha y hora actuales

Administración de conexiones existentes

Puede administrar sus conexiones una vez que se hayan creado.

Editar una conexión

  1. Seleccione la conexión en la lista.
  2. Haga clic en el botón Edit (icono de lápiz).
  3. Actualice los campos necesarios.
  4. Vuelva a probar la conexión.
  5. Haga clic en Save.
Advertencia: Editar una conexión afecta a todas las skills que la utilizan. Pruebe minuciosamente después de realizar cambios.

Probar una conexión

  1. Seleccione la conexión de la lista.
  2. Haga clic en el botón Test (icono de actualización).
  3. Compruebe que la conexión sigue funcionando.
  4. Esto es útil para diagnosticar problemas o verificar las credenciales.

Eliminar una conexión

  1. Seleccione la conexión de la lista.
  2. Haga clic en el botón Delete (icono de papelera).
  3. Confirme la eliminación.
Advertencia: No puede eliminar una conexión que esté en uso en skills activas. Elimine primero la conexión de todas las skills.

Solución de problemas

La prueba de conexión falla

Problema: La prueba de conexión devuelve un error. Soluciones:
  • Clave de API no válida:
    • Verifica que hayas copiado correctamente la clave completa.
    • Comprueba que no haya espacios o caracteres adicionales.
    • Regenera la clave en el portal de tu proveedor si es necesario.
  • URL del endpoint no válida:
    • Asegúrate de que la URL esté completa y tenga el formato correcto.
    • Verifica que la URL coincida con tu recurso de Azure.
    • Comprueba si hay errores tipográficos en la ruta de implementación.
  • Nombre de modelo incorrecto:
    • Confirma que la implementación existe en tu portal de Azure.
    • Revisa la ortografía y el uso de mayúsculas/minúsculas (distingue entre mayúsculas y minúsculas).
    • Verifica que la implementación esté activa y disponible.
  • Problemas de red:
    • Comprueba tu conectividad a Internet.
    • Verifica que la configuración del firewall permita conexiones HTTPS salientes.
    • Confirma que tu instancia de Vantage pueda acceder al proveedor de LLM.
  • Cuota o permisos:
    • Verifica que tu suscripción esté activa.
    • Comprueba que no hayas excedido los límites de frecuencia (rate limits).
    • Asegúrate de que tu clave de API tenga los permisos necesarios.

La conexión funciona en la prueba pero falla en las skills

Problema: La prueba se ejecuta correctamente, pero las skills no pueden usar la conexión. Soluciones:
  • Actualice la página de Skill Designer.
  • Vuelva a seleccionar la conexión en la configuración de la skill.
  • Revise los registros de errores de la skill para ver mensajes específicos.
  • Verifique que la skill esté publicada y no en modo borrador.

Costos de la API más altos de lo esperado

Problema: Cargos inesperados de tu proveedor de LLM. Soluciones:
  • Revisa qué skills están usando la conexión.
  • Verifica el volumen y la frecuencia de procesamiento.
  • Considera implementar límites de uso (rate limiting).
  • Supervisa el uso a través del panel de control de tu proveedor.
  • Utiliza modelos más económicos para las pruebas.

Buenas prácticas

Seguridad

  • No compartir claves de API en correos electrónicos o chats en texto sin formato.
  • Rotar las credenciales con regularidad (se recomienda cada 90 días).
  • Usar conexiones separadas para desarrollo y producción.
  • Supervisar los registros de acceso en el panel de control de tu proveedor de LLM.
  • Implementar el principio de privilegio mínimo: conceder solo los permisos necesarios.
  • Almacenar las credenciales de respaldo de forma segura para casos de emergencia.

Administración de conexiones

  • Usa nombres descriptivos que indiquen el propósito o el entorno.
    • Ejemplos recomendados: “Producción GPT-4”, “Desarrollo Microsoft Foundry”
    • Evita: “Conexión 1”, “Prueba”
  • Documenta en las descripciones para qué sirve cada conexión
    • Incluye: Entorno, caso de uso, contacto del responsable
    • Excluye: Credenciales, información confidencial
  • Prueba las conexiones con regularidad para detectar problemas a tiempo
    • Define una revisión mensual.
    • Prueba después de cualquier cambio en las credenciales.
  • Haz un seguimiento del uso para saber qué conexiones están activas
    • Revisa la columna “Used in Skills”.
    • Archiva o elimina las conexiones sin uso.

Gestión de costos

  • Elija modelos apropiados para cada caso de uso.
    • Use modelos más pequeños y rápidos para tareas simples.
    • Reserve modelos avanzados para extracciones complejas.
  • Implemente limitación de tasa (rate limiting) si su proveedor lo permite.
    • Evita incrementos de costo inesperados.
    • Protege contra el procesamiento descontrolado.
  • Supervise los patrones de uso
    • Configure alertas de facturación en el panel de su proveedor.
    • Revise los costos y el uso mensual.
  • Optimice los prompts en sus Skills de documento.
    • Prompts eficientes reducen el uso de tokens.
    • Pruebe y perfeccione para obtener los mejores resultados con el menor costo.

Optimización del flujo de trabajo

  • Agrupa los tipos de documento similares
  • Configura las Skill de documento adecuadas para tu caso de uso
  • Prueba con documentos de ejemplo antes de usarlo en producción
  • Documenta tu flujo de trabajo como referencia para el equipo

Conceptos básicos sobre los tipos de conexión

OpenAI ChatGPT

Ideal para:
  • Acceso directo a los modelos más recientes de OpenAI
  • Configuración sencilla con solo una clave de API
  • Organizaciones que ya usan la plataforma de OpenAI
Aspectos a tener en cuenta:
  • Los datos se procesan en la infraestructura de OpenAI
  • Está sujeto a los términos y políticas de datos de OpenAI
  • Requiere una cuenta de OpenAI y acceso a la API

Microsoft Foundry

Mejor para:
  • Implementaciones empresariales con infraestructura de Azure
  • Organizaciones que requieren controles sobre la residencia de los datos
  • Integración con otros servicios de Azure
  • Funciones mejoradas de seguridad y cumplimiento normativo
  • Acceso a OpenAI y otros modelos de IA a través de Azure
  • Organizaciones con suscripciones de Azure existentes
Consideraciones:
  • Requiere una suscripción de Azure y la configuración de Microsoft Foundry
  • Más configuración (url de endpoint con ruta completa, nombre de modelo, versión de la API)
  • Los modelos disponibles pueden diferir de los de OpenAI directamente
  • La URL debe incluir la ruta completa: /openai/deployments/[model-name]/chat/completions?api-version=...
  • Puede ofrecer capacidades especializadas y alojamiento de modelos personalizados

Recursos adicionales


Resumen

Has realizado correctamente lo siguiente:
  • ✅ Has accedido a la configuración
  • ✅ Has navegado hasta la gestión de conexiones
  • ✅ Has añadido una nueva conexión LLM
  • ✅ Has configurado las credenciales y los ajustes de la conexión
  • ✅ Has probado tu conexión
  • ✅ Has aprendido a gestionar conexiones
¡Tu conexión LLM ahora está lista para potenciar capacidades avanzadas de IA en tus Skills de documento de ABBYY Vantage!