Saltar al contenido principal

​
Descripción general

Las conexiones LLM en ABBYY Vantage le permiten integrar potentes modelos de lenguaje de proveedores como OpenAI y Microsoft Foundry directamente en sus flujos de trabajo de procesamiento de documentos. Estas conexiones permiten que sus Skill de documento aprovechen IA de última generación para una extracción, clasificación y comprensión más precisas de documentos complejos. Lo que logrará:
  • Acceder a la configuración de Connections
  • Agregar una nueva conexión LLM
  • Configurar las credenciales y los ajustes de la conexión
  • Probar su conexión
Tiempo necesario para completar: 10-15 minutos Proveedores de LLM admitidos:
  • OpenAI ChatGPT
  • Microsoft Foundry
Nota: Actualmente, las conexiones LLM solo se pueden usar en Skill de documento mediante ABBYY Advanced Designer.

​
Requisitos previos

Antes de comenzar, asegúrate de contar con lo siguiente:
  1. Acceso de administrador a la configuración de ABBYY Vantage.
  2. Credenciales de API de tu proveedor de LLM elegido:
    • OpenAI: clave de API de tu cuenta de OpenAI
    • Microsoft Foundry: clave de API, url completa del endpoint (incluida la ruta /chat/completions y la versión de la API), y nombre del modelo proporcionado por Microsoft Foundry en Azure.
  3. Suscripción activa con tu proveedor de LLM.
Nota: Las conexiones de LLM se gestionan a nivel de tenant y pueden ser utilizadas por todos los diseñadores de skills de tu organización. Actualmente, las conexiones de LLM solo pueden integrarse en Skills de documento mediante ABBYY Advanced Designer.

​
Paso 1: Acceder a Configuration

Vaya al área Configuration, donde gestionará las conexiones con LLM.
  1. En la interfaz de ABBYY Vantage, ubique la sección ADMIN en la barra lateral izquierda.
  2. Haga clic en Configuration (icono de engranaje).
Cómo acceder a Configuration Verá la página Configuration con varias opciones en el menú de la izquierda:
  • General
  • Connections (aquí es donde trabajaremos)
  • Identity Provider
  • Public API Client
  • Security Log
  • Environment Variables
  • IP Restrictions

​
Paso 2: Vaya a Connections

Acceda a la interfaz de administración de Connections.
  1. En el menú izquierdo Configuration, haga clic en Connections.
Connections Page La página Connections muestra lo siguiente:
  • Lista de conexiones existentes (si las hay)
  • Detalles de la conexión: Name, Description, Used in Skills, Last Updated
  • Botones de administración: Add Connection, Test, Edit, Delete
  • Funcionalidad de búsqueda para encontrar conexiones específicas
Nota: Las conexiones son recursos compartidos. Todos los diseñadores de skills de su tenant pueden usar estas conexiones en sus skills.

​
Paso 3: Agregar una nueva conexión LLM

Inicie el proceso de creación de una nueva conexión con su proveedor de LLM.
  1. Haga clic en el botón + Add Connection en la parte superior de la página Connections.
  2. Aparecerá el cuadro de diálogo Add Connection, que muestra los proveedores de LLM disponibles:
    • OpenAI ChatGPT: conexión directa con la API de OpenAI
    • Microsoft Foundry: modelos de OpenAI y otros modelos de IA alojados en la infraestructura de Microsoft Azure
  3. Seleccione el proveedor que desee (para este ejemplo, usaremos Microsoft Foundry).
  4. Haga clic en Next.
Nota: Cada proveedor tiene diferentes requisitos de configuración. Elija el proveedor que coincida con la suscripción de LLM de su organización.

​
Paso 4: Configurar los detalles de la conexión

Complete la información requerida para la conexión LLM. Connection Configuration

​
Configuración general

Name
  • Un identificador único para esta conexión
  • Ejemplos: Microsoft Foundry o Production GPT-4
  • Este nombre aparecerá al seleccionar conexiones en Skills de documento.
Description
  • Opcional, pero recomendable.
  • Proporcione contexto útil sobre la conexión.
  • Ejemplo: “Microsoft Foundry Connection 1” o “GPT-4 Production API”.
  • Importante: No incluya credenciales confidenciales en la descripción.
Nota: Elija nombres descriptivos que ayuden a los diseñadores de skills a entender qué conexión utilizar para diferentes propósitos.

​
Configuración de la conexión

Los campos obligatorios dependen de su proveedor de LLM:

​
Para Microsoft Foundry:

Api Key
  • Tu clave de API de Microsoft Foundry desde el portal de Azure.
  • Puedes encontrarla en: Azure Portal → Tu recurso de Microsoft Foundry → Keys and Endpoint.
  • Formato: Una cadena alfanumérica larga.
  • Ejemplo de marcador de posición: [API Key Here]
Url
  • La url de endpoint de Microsoft Foundry.
  • Puedes encontrarla en: Azure Portal → Tu recurso de Microsoft Foundry → Keys and Endpoint.
  • Formato: https://[resource].cognitiveservices.azure.com/openai/deployments/[model-name]/chat/completions?api-version=2025-01-01-preview
  • Ejemplo: https://[redacted]resource.cognitiveservices.azure.com/openai/deployments/gpt-4.1-nano/chat/completions?api-version=2025-01-01-preview
Model Name
  • El nombre de tu modelo implementado en Microsoft Foundry.
  • Puedes encontrarlo en: Azure Portal → Tu recurso de Microsoft Foundry → Deployments.
  • Ejemplo: gpt-4.1-nano, gpt-35-turbo, gpt-4
  • Debe coincidir exactamente con tu implementación.

​
Para OpenAI ChatGPT:

Api Key
  • Tu clave de API de OpenAI en platform.openai.com.
  • Encuéntrala en: OpenAI Platform → API Keys.
  • Formato: Empieza por sk-
Model
  • El modelo específico que se va a usar (por ejemplo, gpt-4, gpt-3.5-turbo)
Advertencia: Nunca compartas claves de API ni las incluyas en descripciones. Estas credenciales otorgan acceso a tus servicios LLM y a los costos asociados.

​
Paso 5: Pruebe su conexión

Verifique que su conexión esté configurada correctamente antes de guardar.
  1. Después de ingresar toda la información requerida, haga clic en el botón Test.
Testing Connection
  1. Vantage intentará conectarse a su proveedor de LLM usando las credenciales que proporcionó.
  2. Revise el resultado de la prueba:
    • Success (marca de verificación verde): La conexión está funcionando correctamente.
    • Failure (X roja o mensaje de error): Verifique sus credenciales e inténtelo de nuevo.

​
Resultados de la prueba

Prueba exitosa:
  • Aparece una marca de verificación verde junto a la conexión.
  • Ahora puede guardar la conexión.
  • La conexión está lista para utilizarse en las Skills de documento.
Prueba fallida:
  • Revise el mensaje de error para identificar problemas específicos.
  • Problemas comunes:
    • Clave de API incorrecta
    • URL de endpoint no válida
    • Nombre de modelo incorrecto
    • Problemas de conectividad de red
    • Permisos o cuota insuficientes
Nota: Pruebe siempre su conexión antes de guardarla. Esto garantiza que sus Skills de documento podrán utilizar correctamente el proveedor de LLM.

​
Paso 6: Guarde su conexión

Finalice la configuración de la conexión.
  1. Una vez que la prueba sea satisfactoria, haga clic en el botón Add.
  2. Su conexión ahora aparece en la lista de Connections.
  3. La conexión está disponible inmediatamente para todos los diseñadores de skills de su tenant.
La página Connections ahora muestra:
  • Connection name: Tal como lo especificó
  • Description: La descripción que haya indicado
  • Used in Skills: Mostrará qué skills utilizan esta conexión
  • Last Updated: La fecha y hora actuales

​
Gestión de conexiones existentes

Puede gestionar sus conexiones una vez que se hayan creado.

​
Editar una conexión

  1. Seleccione la conexión de la lista.
  2. Haga clic en el botón Edit (icono de lápiz).
  3. Actualice los campos necesarios.
  4. Vuelva a probar la conexión.
  5. Haga clic en Save.
Advertencia: Editar una conexión afecta a todas las skills que la utilizan. Vuelva a probarla detenidamente después de realizar los cambios.

​
Probar la conexión

  1. Seleccione la conexión de la lista.
  2. Haga clic en el botón Test (icono de actualización).
  3. Compruebe que la conexión sigue funcionando.
  4. Esto resulta útil para solucionar problemas o verificar credenciales.

​
Eliminar una conexión

  1. Seleccione la conexión de la lista.
  2. Haga clic en el botón Delete (icono de papelera).
  3. Confirme la eliminación.
Advertencia: No puede eliminar una conexión que se esté utilizando actualmente en skills activas. Primero quite la conexión de todas las skills.

​
Solución de problemas

​
Error en la prueba de conexión

Problema: La prueba de conexión devuelve un error. Soluciones:
  • Clave de API no válida:
    • Verifique que haya copiado correctamente la clave completa.
    • Compruebe que no haya espacios ni caracteres adicionales.
    • Genere de nuevo la clave en el portal de su proveedor si es necesario.
  • URL del endpoint no válida:
    • Asegúrese de que la URL esté completa y tenga el formato correcto.
    • Verifique que la URL coincida con su recurso de Azure.
    • Revise si hay errores tipográficos en la ruta de implementación.
  • Nombre de modelo incorrecto:
    • Confirme que la implementación exista en su portal de Azure.
    • Revise la ortografía y el uso de mayúsculas y minúsculas (distingue entre mayúsculas y minúsculas).
    • Verifique que la implementación esté activa y disponible.
  • Problemas de red:
    • Compruebe su conectividad a internet.
    • Verifique que la configuración del firewall permita conexiones HTTPS salientes.
    • Confirme que su instancia de Vantage pueda acceder al proveedor de LLM.
  • Cuota o permisos:
    • Verifique que su suscripción esté activa.
    • Compruebe que no haya superado los límites de frecuencia de solicitudes.
    • Asegúrese de que su clave de API tenga los permisos necesarios.

​
La conexión funciona en la prueba pero falla en las skills

Problema: La prueba de conexión se realiza correctamente, pero las skills no pueden usar la conexión. Soluciones:
  • Actualiza la página de Skill Designer.
  • Vuelve a seleccionar la conexión en la configuración de la skill.
  • Revisa los registros de errores de la skill para ver mensajes específicos.
  • Verifica que la skill esté publicada y no en modo borrador.

​
Costos de la API más altos de lo previsto

Problema: Cargos inesperados de su proveedor de LLM. Soluciones:
  • Revise qué skills están usando la conexión.
  • Verifique el volumen y la frecuencia de procesamiento.
  • Considere implementar límites de tasa (rate limiting).
  • Supervise el uso a través del panel de control de su proveedor.
  • Use modelos más económicos para las pruebas.

​
Prácticas recomendadas

​
Seguridad

  • Nunca compartas las claves de API en correos electrónicos o chats en texto plano.
  • Rota las credenciales con regularidad (se recomienda cada 90 días).
  • Usa conexiones separadas para desarrollo y producción.
  • Supervisa los registros de acceso desde la consola de tu proveedor de LLM.
  • Implementa el principio de mínimo privilegio: concede solo los permisos necesarios.
  • Guarda credenciales de respaldo de forma segura para casos de emergencia.

​
Administración de conexiones

  • Utilice nombres descriptivos que indiquen el propósito o el entorno.
    • Correcto: “Producción GPT-4”, “Desarrollo Microsoft Foundry”
    • Evite: “Conexión 1”, “Prueba”
  • Documente en las descripciones para qué sirve cada conexión
    • Incluya: Entorno, caso de uso, contacto de la persona responsable
    • Excluya: Credenciales, información confidencial
  • Pruebe las conexiones con regularidad para detectar problemas con antelación
    • Configure una revisión mensual.
    • Pruebe después de cualquier cambio de credenciales.
  • Haga un seguimiento del uso para saber qué conexiones están activas
    • Revise la columna “Used in Skills”.
    • Archive o elimine las conexiones que no se utilicen.

​
Gestión de costos

  • Elija modelos adecuados para cada caso de uso.
    • Use modelos más pequeños y rápidos para tareas simples.
    • Reserve los modelos avanzados para extracciones complejas.
  • Implemente limitación de tasa (rate limiting) si su proveedor la admite.
    • Evita picos de costos inesperados.
    • Protege contra el procesamiento descontrolado.
  • Supervise los patrones de uso
    • Configure alertas de facturación en el panel de control de su proveedor.
    • Revise mensualmente los costos y el consumo.
  • Optimice los prompts en sus Skills de documento.
    • Prompts eficientes reducen el uso de tokens.
    • Pruebe y perfeccione para obtener los mejores resultados con el menor costo.

​
Optimización del flujo de trabajo

  • Agrupe los tipos de documentos similares
  • Configure las Skill de documento adecuadas para su caso de uso
  • Pruebe con documentos de ejemplo antes de usarlos en producción
  • Documente su flujo de trabajo para que su equipo pueda consultarlo

​
Información sobre los tipos de conexión

​
OpenAI ChatGPT

Ideal para:
  • Acceso directo a los modelos más recientes de OpenAI
  • Configuración sencilla con solo una clave de API
  • Organizaciones que ya utilizan la plataforma de OpenAI
Consideraciones:
  • Los datos son procesados por la infraestructura de OpenAI
  • Está sujeto a los términos y políticas de datos de OpenAI
  • Requiere una cuenta de OpenAI y acceso a la API

​
Microsoft Foundry

Ideal para:
  • Implementaciones empresariales con infraestructura de Azure
  • Organizaciones que requieren controles de residencia de datos
  • Integración con otros servicios de Azure
  • Características avanzadas de seguridad y cumplimiento normativo
  • Acceso a OpenAI y otros modelos de IA a través de Azure
  • Organizaciones con suscripciones existentes de Azure
Consideraciones:
  • Requiere una suscripción de Azure y la configuración de Microsoft Foundry
  • Más configuración (URL del endpoint con la ruta completa, nombre del modelo, versión de la API)
  • Los modelos disponibles pueden diferir de los de OpenAI de forma directa
  • La URL debe incluir la ruta completa: /openai/deployments/[model-name]/chat/completions?api-version=...
  • Puede ofrecer capacidades especializadas y alojamiento de modelos personalizados

​
Recursos adicionales

​
Resumen

Has completado correctamente:
  • ✅ Acceder a la configuración
  • ✅ Ir a la administración de conexiones
  • ✅ Agregar una nueva conexión de LLM
  • ✅ Configurar las credenciales y los ajustes de la conexión
  • ✅ Probar tu conexión
  • ✅ Aprender a administrar conexiones
¡Tu conexión de LLM ahora está lista para habilitar capacidades avanzadas de IA en tus Skills de documento de ABBYY Vantage!