Skip to main content
Una conexión LLM almacena las credenciales a nivel de tenant que vinculan ABBYY Vantage con un proveedor externo de LLM. Una vez configurada, la conexión se comparte en todo el tenant y cualquier Skill de documento puede utilizarla para la extracción y clasificación basadas en prompts.
Actualmente, las conexiones LLM solo se pueden usar en Skills de documento mediante ABBYY Advanced Designer. Las conexiones se administran a nivel de tenant y están disponibles para todos los diseñadores de skills de su organización.
Para obtener una descripción general y consultar la lista completa de proveedores compatibles, consulte LLMs en ABBYY Vantage y Proveedores y modelos de LLM compatibles.

Requisitos previos

Antes de comenzar, asegúrese de contar con lo siguiente:
  • Acceso de administrador a la configuración de ABBYY Vantage.
  • Una suscripción activa con el proveedor de LLM que haya elegido.
  • Credenciales de API de dicho proveedor:
    • Anthropic: clave de API de su cuenta de Anthropic.
    • Google AI Studio: clave de API de su cuenta de Google AI Studio.
    • Microsoft Foundry: clave de API, la URL completa del endpoint (incluidas la ruta /chat/completions y la versión de la API) y el nombre del modelo implementado en Azure.
    • Mistral AI: clave de API de su cuenta de Mistral AI.
    • OpenAI: clave de API de su cuenta de OpenAI.

Agregar una conexión de LLM

1

Abra la página Connections

En la barra lateral izquierda, en ADMIN, haga clic en Configuration (icono de engranaje) y luego en Connections.
Página Connections de Vantage Configuration
La página Connections muestra las conexiones existentes con los valores Name, Description, Used in Skills y Last Updated, así como los botones Add Connection, Test, Edit y Delete.
2

Seleccione un proveedor

Haga clic en + Add Connection. El cuadro de diálogo Add Connection muestra los proveedores disponibles: Anthropic, Microsoft Foundry, Google AI Studio, Mistral AI y OpenAI.
Cuadro de diálogo Add Connection con los proveedores Anthropic, Microsoft Foundry, Google AI Studio, Mistral AI y OpenAI
Seleccione el proveedor correspondiente a su suscripción y haga clic en Next.
3

Introduzca la configuración general

Asigne un nombre a la conexión y agregue una descripción opcional.
  • Name - Un nombre único para la conexión. Este nombre aparece cuando los diseñadores de skills seleccionan una conexión en una Skill de documento; por tanto, elija un nombre descriptivo, como Production Claude o Mistral AI.
  • Description - Contexto opcional sobre el propósito o el entorno de la conexión. No incluya claves de API ni otras credenciales.
4

Introduzca la configuración de conexión

Introduzca las credenciales de su proveedor. Los campos obligatorios dependen del proveedor seleccionado. Para consultar los campos de cada proveedor, consulte Configuración de conexión por proveedor.
Formulario de configuración de conexión con las secciones General y Connection Settings
5

Pruebe la conexión

Haga clic en Test. Vantage intenta conectarse al proveedor con las credenciales introducidas.
Prueba de una conexión de LLM
Una marca de verificación verde confirma que la conexión funciona. Un error rojo indica que debe revisar las credenciales o la configuración. Para obtener ayuda, consulte Solución de problemas.
6

Guarde la conexión

Cuando la prueba se complete correctamente, haga clic en Add. La conexión aparecerá en la lista Connections y estará disponible de inmediato para todos los diseñadores de skills de su tenant.
Cuando se publique una skill que haga referencia a esta conexión, esta pasará a ser la predeterminada en Vantage Web Portal, en Skill Catalog → [skill] → Parameters. Un Administrador del tenant puede reemplazar el valor predeterminado para cada entorno sin volver a publicar la skill. Para obtener más información, consulte Parámetros de Skill de documento.

Configuración de conexión por proveedor

Los campos de Configuración de conexión varían según el proveedor. Introduzca el nombre exacto del modelo compatible con su cuenta. Para ver modelos de ejemplo, consulte Proveedores y modelos de LLM compatibles.
Nunca comparta claves de API ni las incluya en la descripción de una conexión. Estas credenciales otorgan acceso a sus servicios LLM y a los costos asociados.

Anthropic

  • nombre del modelo - El modelo de Anthropic que se utilizará. Seleccione un modelo compatible con su cuenta.
  • clave de API - Su clave de API de Anthropic (comienza por sk-).

Google AI Studio (Gemini)

  • nombre del modelo - El modelo de Gemini que se usará, por ejemplo, gemini-2.0-flash.
  • Clave de API - Tu clave de API de Google AI Studio, en Google AI Studio → Get API key.

Microsoft Foundry

  • Nombre del modelo - El nombre del modelo implementado en Microsoft Foundry, disponible en Azure Portal → su recurso de Microsoft Foundry → Deployments. Debe coincidir exactamente con el nombre de la implementación.
  • URL - El endpoint de Microsoft Foundry, disponible en Azure Portal → su recurso de Microsoft Foundry → Keys and Endpoint. Incluya la ruta de implementación y la versión de la API; por ejemplo, https://<resource>.cognitiveservices.azure.com/openai/deployments/<model-name>/chat/completions?api-version=2025-01-01-preview.
  • Clave de API - La clave de API de Microsoft Foundry, disponible en la misma página Keys and Endpoint.

Mistral AI

  • Nombre del modelo - El modelo de Mistral AI que se va a utilizar. Seleccione un modelo compatible con su cuenta.
  • Clave de API - Su clave de API de Mistral AI.

OpenAI ChatGPT

  • nombre del modelo - El modelo de OpenAI que se utilizará, por ejemplo, gpt-4.
  • clave de API - Su clave de API de OpenAI (comienza con sk-), disponible en OpenAI Platform → API Keys.

Administrar conexiones

Las conexiones son compartidas, por lo que cualquier cambio afecta a todos los skills que las utilizan. Realice una prueba después de cualquier cambio.

Editar una conexión

1

Seleccione la conexión

En la página Connections, seleccione la conexión y haga clic en Editar (icono de lápiz).
2

Actualice y pruebe

Actualice los campos, haga clic en Test para comprobar que la conexión sigue funcionando y, a continuación, haga clic en Guardar.
Al editar una conexión, se ven afectadas todas las skills que la utilizan. Realice pruebas exhaustivas después de hacer cambios.

Probar una conexión

En la página Connections, seleccione la conexión y haga clic en Test (icono de actualización) para comprobar que las credenciales sigan funcionando. Esto resulta útil para realizar comprobaciones rutinarias y solucionar problemas.

Eliminar una conexión

En la página Connections, seleccione la conexión, haga clic en Delete (icono de papelera) y confirme.
No se puede eliminar una conexión que se use en una skill activa. Primero quite la conexión de todas las skills.

Solución de problemas

La prueba de conexión falla

Compruebe las credenciales y la configuración del proveedor.
  • Clave de API no válida - Confirme que copió la clave completa, sin espacios adicionales. Vuelva a generar la clave en el portal del proveedor si es necesario.
  • URL del endpoint no válida (Microsoft Foundry) - Confirme que la URL esté completa, que corresponda a su recurso de Azure y que no contenga errores tipográficos en la ruta de implementación.
  • Nombre de modelo incorrecto - Confirme que el modelo o la implementación existan y estén activos, y compruebe la ortografía y el uso de mayúsculas y minúsculas (se distinguen mayúsculas de minúsculas).
  • Problemas de red - Confirme que se permita el tráfico HTTPS saliente y que su instancia de Vantage pueda acceder al proveedor.
  • Cuota o permisos - Confirme que su suscripción esté activa, que se encuentre dentro de los límites de velocidad y que la clave tenga los permisos necesarios.

La conexión funciona en Test, pero falla en un skill

  • Actualice la página de Skill Designer y vuelva a seleccionar la conexión en el skill.
  • Confirme que el skill esté publicado y no esté en borrador.
  • Revise los logs de errores del skill para identificar mensajes específicos.

Los costos de la API son más altos de lo esperado

  • Revise qué skills usan la conexión y su volumen de procesamiento.
  • Use modelos más pequeños y rápidos para tareas sencillas.
  • Supervise el uso y configure alertas de presupuesto en el panel de su proveedor.

Prácticas recomendadas

  • Proteja sus credenciales. Nunca comparta claves de API ni las incluya en una descripción. Rote las claves periódicamente, conceda a cada clave solo los privilegios mínimos necesarios y utilice conexiones independientes para desarrollo y producción.
  • Asigne nombres claros a las conexiones. Use nombres que indiquen el propósito o el entorno, como Production GPT-4 o Development Foundry, en lugar de Connection 1. Indique el entorno, el caso de uso y el responsable en la descripción.
  • Revise las conexiones periódicamente. Pruebe las conexiones de forma programada y después de cualquier cambio en las credenciales, y use la columna Used in Skills para localizar y eliminar las conexiones que ya no se utilicen.
  • Gestione los costos. Use modelos más pequeños y rápidos para tareas sencillas, mantenga los prompts eficientes y configure alertas de presupuesto en el panel de control de su proveedor.

Recursos adicionales