Saltar al contenido principal

​
Descripción general

Las conexiones LLM en ABBYY Vantage le permiten integrar potentes modelos de lenguaje de proveedores como OpenAI y Microsoft Foundry directamente en sus flujos de trabajo de procesamiento de documentos. Estas conexiones permiten que sus Skill de documento aprovechen la IA de última generación para una extracción, clasificación y comprensión más precisas de documentos complejos. Lo que logrará:
  • Acceder a la configuración de Connections
  • Agregar una nueva conexión LLM
  • Configurar las credenciales y los parámetros de la conexión
  • Probar su conexión
Tiempo estimado: 10-15 minutos Proveedores de LLM admitidos:
  • OpenAI ChatGPT
  • Microsoft Foundry
Nota: Actualmente, las conexiones LLM solo se pueden usar en Skill de documento a través de ABBYY Advanced Designer.

​
Requisitos previos

Antes de comenzar, asegúrate de que tienes:
  1. Acceso de administrador a la configuración de ABBYY Vantage.
  2. Credenciales de API de tu proveedor de LLM seleccionado:
    • OpenAI: clave de API de tu cuenta de OpenAI.
    • Microsoft Foundry: clave de API, url completa del endpoint (incluida la ruta /chat/completions y la versión de la API) y nombre del modelo de Microsoft Foundry en Azure.
  3. Suscripción activa con tu proveedor de LLM.
Nota: Las conexiones de LLM se gestionan a nivel de tenant y pueden ser utilizadas por todos los diseñadores de Skills de tu organización. Actualmente, las conexiones de LLM solo pueden integrarse en Skill de documento a través de ABBYY Advanced Designer.

​
Paso 1: Acceder a Configuration

Vaya al área de Configuration, donde gestionará las conexiones con LLM.
  1. En la interfaz de ABBYY Vantage, ubique la sección ADMIN en la barra lateral izquierda.
  2. Haga clic en Configuration (icono de engranaje).
Acceder a Configuration Verá la página de Configuration con varias opciones en el menú de la izquierda:
  • General
  • Connections (aquí es donde trabajaremos)
  • Identity Provider
  • Public API Client
  • Security Log
  • Environment Variables
  • IP Restrictions

​
Paso 2: Ir a Connections

Accede a la interfaz de administración de Connections.
  1. En el menú izquierdo de Configuration, haz clic en Connections.
Connections Page La página Connections muestra:
  • Lista de conexiones existentes (si las hay)
  • Detalles de la conexión: Name, Description, Used in Skills, Last Updated
  • Botones de administración: Add Connection, Test, Edit, Delete
  • Funcionalidad de búsqueda para encontrar conexiones específicas
Nota: Las conexiones son recursos compartidos. Todos los diseñadores de skills en tu tenant pueden usar estas conexiones en sus skills.

​
Paso 3: Agregar una nueva conexión LLM

Inicie el proceso de creación de una nueva conexión con su proveedor de LLM.
  1. Haga clic en el botón + Add Connection en la parte superior de la página Connections.
  2. Aparecerá el cuadro de diálogo Add Connection, que muestra los proveedores de LLM disponibles:
    • OpenAI ChatGPT - Conexión directa a la API de OpenAI
    • Microsoft Foundry - Modelos de OpenAI y otros modelos de IA alojados en la infraestructura de Azure de Microsoft
  3. Seleccione el proveedor que desee (para este ejemplo, usaremos Microsoft Foundry).
  4. Haga clic en Next.
Nota: Cada proveedor tiene diferentes requisitos de configuración. Elija el proveedor que coincida con la suscripción de LLM de su organización.

​
Paso 4: Configurar los detalles de la conexión

Complete la información requerida para la conexión con el LLM. Connection Configuration

​
Configuración general

Nombre
  • Un identificador único para esta conexión
  • Ejemplo: Microsoft Foundry o Production GPT-4
  • Este nombre aparecerá al seleccionar conexiones en las Skill de documento.
Descripción
  • Opcional, pero recomendable.
  • Proporcione contexto útil sobre la conexión.
  • Ejemplo: “Microsoft Foundry Connection 1” o “GPT-4 Production API”.
  • Importante: No incluya credenciales confidenciales en la descripción.
Nota: Elija nombres descriptivos que ayuden a los diseñadores de skills a entender qué conexión usar para distintos fines.

​
Configuración de la conexión

Los campos obligatorios dependen de su proveedor de LLM:

​
Para Microsoft Foundry:

Api Key
  • Tu clave de API de Microsoft Foundry en el portal de Azure.
  • Puedes encontrarla en: Azure Portal → Tu recurso de Microsoft Foundry → Keys and Endpoint.
  • Formato: Una cadena alfanumérica larga.
  • Ejemplo de marcador de posición: [API Key Here]
Url
  • La URL del endpoint de Microsoft Foundry.
  • Puedes encontrarla en: Azure Portal → Tu recurso de Microsoft Foundry → Keys and Endpoint.
  • Formato: https://[resource].cognitiveservices.azure.com/openai/deployments/[model-name]/chat/completions?api-version=2025-01-01-preview
  • Ejemplo: https://[redacted]resource.cognitiveservices.azure.com/openai/deployments/gpt-4.1-nano/chat/completions?api-version=2025-01-01-preview
Model Name
  • El nombre de tu modelo implementado en Microsoft Foundry.
  • Puedes encontrarlo en: Azure Portal → Tu recurso de Microsoft Foundry → Deployments.
  • Ejemplo: gpt-4.1-nano, gpt-35-turbo, gpt-4
  • Debe coincidir exactamente con tu despliegue.

​
Para OpenAI ChatGPT:

Clave de API
  • Su clave de API de OpenAI desde platform.openai.com.
  • Encuéntrela en: OpenAI Platform → API Keys.
  • Formato: comienza con sk-
Modelo
  • El modelo específico que se utilizará (por ejemplo, gpt-4, gpt-3.5-turbo)
Advertencia: Nunca comparta claves de API ni las incluya en descripciones. Estas credenciales otorgan acceso a sus servicios de LLM y a los costos asociados.

​
Paso 5: Pruebe su conexión

Verifique que su conexión esté configurada correctamente antes de guardar.
  1. Después de introducir toda la información requerida, haga clic en el botón Test.
Testing Connection
  1. Vantage intentará conectarse a su proveedor de LLM utilizando las credenciales que ha proporcionado.
  2. Revise el resultado de la prueba:
    • Éxito (marca de verificación verde): La conexión está funcionando correctamente.
    • Error (X roja o mensaje de error): Verifique sus credenciales e inténtelo de nuevo.

​
Resultados de la prueba

Prueba exitosa:
  • Aparece una marca de verificación verde junto a su conexión.
  • Ahora puede guardar la conexión.
  • La conexión está lista para usarse en Skills de documento.
Prueba fallida:
  • Revise el mensaje de error para identificar problemas específicos.
  • Problemas comunes:
    • Clave de API incorrecta
    • url del endpoint no válida
    • Nombre de modelo incorrecto
    • Problemas de conectividad de red
    • Permisos o cuota insuficientes
Nota: Pruebe siempre su conexión antes de guardarla. Esto garantiza que sus Skills de documento podrán usar correctamente el proveedor de LLM.

​
Paso 6: Guarde su conexión

Finalice la configuración de la conexión.
  1. Una vez que la prueba se complete correctamente, haga clic en el botón Add.
  2. Su conexión ahora aparece en la lista Connections.
  3. La conexión está disponible de inmediato para todos los diseñadores de skills de su tenant.
La página Connections ahora muestra:
  • Connection name: Según lo que haya especificado
  • Description: La descripción que haya proporcionado
  • Used in Skills: Mostrará qué skills utilizan esta conexión
  • Last Updated: La marca de tiempo actual

​
Gestión de conexiones existentes

Puede gestionar sus conexiones una vez creadas.

​
Editar una conexión

  1. Seleccione la conexión de la lista.
  2. Haga clic en el botón Edit (icono de lápiz).
  3. Actualice los campos necesarios.
  4. Vuelva a probar la conexión.
  5. Haga clic en Save.
Advertencia: Editar una conexión afecta a todas las skills que la utilizan. Realice pruebas exhaustivas después de aplicar los cambios.

​
Probar una conexión

  1. Seleccione la conexión de la lista.
  2. Haga clic en el botón Test (icono de actualización).
  3. Compruebe que la conexión siga funcionando.
  4. Esto es útil para solucionar problemas o para verificar las credenciales.

​
Eliminar una conexión

  1. Seleccione la conexión en la lista.
  2. Haga clic en el botón Delete (icono de papelera).
  3. Confirme la eliminación.
Advertencia: No puede eliminar una conexión que se esté utilizando actualmente en skills activos. Primero quite la conexión de todas las skills.

​
Solución de problemas

​
Error en la prueba de conexión

Problema: La prueba de conexión devuelve un error. Soluciones:
  • Clave de API no válida:
    • Verifique que haya copiado correctamente la clave completa.
    • Compruebe que no haya espacios o caracteres adicionales.
    • Regénere la clave en el portal de su proveedor si es necesario.
  • URL del endpoint no válida:
    • Asegúrese de que la URL esté completa y correctamente formateada.
    • Verifique que la URL coincida con su recurso de Azure.
    • Compruebe que no haya errores tipográficos en la ruta de implementación.
  • Nombre de modelo incorrecto:
    • Confirme que la implementación exista en su portal de Azure.
    • Revise la ortografía y las mayúsculas/minúsculas (es sensible a mayúsculas y minúsculas).
    • Verifique que la implementación esté activa y disponible.
  • Problemas de red:
    • Compruebe su conectividad a Internet.
    • Verifique que la configuración del firewall permita conexiones HTTPS salientes.
    • Confirme que su instancia de Vantage pueda comunicarse con el proveedor de LLM.
  • Cuota o permisos:
    • Verifique que su suscripción esté activa.
    • Compruebe que no haya excedido los límites de tasa de solicitudes.
    • Asegúrese de que su clave de API tenga los permisos necesarios.

​
La conexión funciona en las pruebas pero falla en las skills

Problema: La prueba se ejecuta correctamente, pero las skills no pueden usar la conexión. Soluciones:
  • Actualiza la página de Skill Designer.
  • Vuelve a seleccionar la conexión en la configuración de la skill.
  • Revisa los registros de errores de la skill para ver mensajes específicos.
  • Verifica que la skill esté publicada y no en modo borrador.

​
Costos de la API más altos de lo previsto

Problema: Cargos inesperados del proveedor de LLM. Soluciones:
  • Revisa qué skills están usando la conexión.
  • Verifica el volumen y la frecuencia de procesamiento.
  • Considera implementar límites de tasa de solicitudes (rate limiting).
  • Supervisa el uso a través del panel de control de tu proveedor.
  • Usa modelos más económicos para las pruebas.

​
Prácticas recomendadas

​
Seguridad

  • Nunca compartas claves de API en correos electrónicos o chats en texto sin formato.
  • Rota las credenciales con regularidad (se recomienda cada 90 días).
  • Utiliza conexiones separadas para desarrollo y producción.
  • Supervisa los registros de acceso en el panel de control de tu proveedor de LLM.
  • Implementa el principio de mínimo privilegio: concede solo los permisos necesarios.
  • Almacena credenciales de respaldo de forma segura en caso de emergencia.

​
Administración de conexiones

  • Use nombres descriptivos que indiquen el propósito o el entorno.
    • Bueno: “Producción GPT-4”, “Desarrollo Microsoft Foundry”
    • Evite: “Conexión 1”, “Prueba”
  • Documente en las descripciones para qué sirve cada conexión
    • Incluya: Entorno, caso de uso, contacto de la persona responsable
    • Excluya: Credenciales, información sensible
  • Pruebe las conexiones con regularidad para detectar problemas a tiempo
    • Programe una revisión mensual.
    • Pruebe después de cualquier cambio de credenciales.
  • Haga un seguimiento del uso para saber qué conexiones están activas
    • Revise la columna “Used in Skills”.
    • Archive o elimine las conexiones que no se utilicen.

​
Gestión de costos

  • Elija modelos apropiados para cada caso de uso.
    • Use modelos más pequeños y rápidos para tareas simples.
    • Reserve modelos avanzados para extracciones complejas.
  • Implemente limitación de solicitudes (rate limiting) si su proveedor lo admite.
    • Evita picos de costos inesperados.
    • Protege contra procesamiento descontrolado.
  • Supervise los patrones de uso
    • Configure alertas de facturación en el panel de control de su proveedor.
    • Revise mensualmente los costos y el uso.
  • Optimice los prompts en sus Skills de documento.
    • Prompts eficientes reducen el uso de tokens.
    • Pruebe y perfeccione para obtener los mejores resultados con el costo más bajo.

​
Optimización del flujo de trabajo

  • Agrupar tipos de documentos similares
  • Configurar las Skill de documento adecuadas para su caso de uso
  • Probar con documentos de ejemplo antes del uso en producción
  • Documentar su flujo de trabajo como referencia para el equipo

​
Descripción de los tipos de conexión

​
OpenAI ChatGPT

Mejor opción para:
  • Acceso directo a los modelos más recientes de OpenAI
  • Configuración sencilla usando únicamente una clave de API
  • Organizaciones que ya utilizan la plataforma de OpenAI
Consideraciones:
  • Los datos se procesan en la infraestructura de OpenAI
  • Está sujeto a los términos y las políticas de datos de OpenAI
  • Requiere una cuenta de OpenAI y acceso a la API

​
Microsoft Foundry

Mejor para:
  • Implementaciones empresariales con infraestructura de Azure
  • Organizaciones que requieren controles de residencia de datos
  • Integración con otros servicios de Azure
  • Funcionalidades mejoradas de seguridad y cumplimiento normativo
  • Acceso a OpenAI y otros modelos de IA a través de Azure
  • Organizaciones con suscripciones de Azure existentes
Consideraciones:
  • Requiere una suscripción de Azure y la configuración de Microsoft Foundry
  • Requiere más configuración (URL de endpoint con ruta completa, nombre del modelo, versión de la API)
  • Los modelos disponibles pueden diferir de los de OpenAI de forma directa
  • La URL debe incluir la ruta completa: /openai/deployments/[model-name]/chat/completions?api-version=...
  • Puede ofrecer capacidades especializadas y alojamiento de modelos personalizados

​
Recursos adicionales

​
Resumen

Has realizado correctamente lo siguiente:
  • ✅ Has accedido a la configuración (Configuration)
  • ✅ Has navegado a la administración de conexiones (Connections)
  • ✅ Has añadido una nueva conexión de LLM
  • ✅ Has configurado las credenciales y los ajustes de la conexión
  • ✅ Has probado tu conexión
  • ✅ Has aprendido a gestionar conexiones
¡Tu conexión de LLM ya está lista para potenciar capacidades avanzadas de IA en tus Skills de documento de ABBYY Vantage!