Skip to main content
ABBYY Vantage usa modelos de lenguaje de gran tamaño (LLMs) externos para extraer, clasificar e interpretar datos de documentos a partir de instrucciones en lenguaje natural. Vantage se conecta a proveedores de LLM como Anthropic, Google AI Studio (Gemini), Microsoft Foundry, Mistral AI y OpenAI ChatGPT, en lugar de alojar los modelos por sí mismo.
Las funciones de LLM actualmente solo están disponibles en Skills de documento mediante ABBYY Advanced Designer. Las conexiones LLM se configuran a nivel de tenant, en ADMIN → Configuration → Connections.

​
Cómo funcionan los LLM en Vantage

Vantage usa LLM mediante dos componentes básicos:
  • conexión LLM - Credenciales a nivel de tenant que vinculan Vantage con un proveedor de LLM. Una conexión se comparte en todo el tenant y cualquier skill puede reutilizarla.
  • extracción basada en prompts - Una actividad de Advanced Designer que envía un documento, junto con su prompt en lenguaje natural, al LLM conectado y asigna la respuesta a sus campos de salida.
Una configuración típica de principio a fin funciona así.
1

Configurar una conexión LLM

Un Administrador del tenant agrega una conexión a un proveedor en ADMIN → Configuration → Connections. Para ver los pasos, consulte Configurar conexiones LLM.
2

Agregar una actividad basada en prompts

En Advanced Designer, agregue una actividad Prompt-based a una Skill de documento y seleccione la conexión LLM que debe usar. Para ver los pasos, consulte Extraer datos con actividades basadas en prompt.
3

Publicar y ejecutar

Cuando publique el skill, la conexión seleccionada se convierte en la predeterminada del skill en Vantage Web Portal, en Skill Catalog → [skill] → Parameters. Un Administrador del tenant puede reemplazarla por entorno sin volver a publicar. Para obtener más información, consulte Parámetros de Skill de documento.

​
Cuándo usar LLM

La extracción con LLM basada en prompts no necesita datos de entrenamiento y se adapta rápidamente a nuevos campos y formatos. Cada extracción llama a una API externa, por lo que cuesta más y se ejecuta más lentamente que un modelo entrenado, y los resultados pueden variar ligeramente entre ejecuciones.

​
Gestión de datos y seguridad

Cuando un skill usa una conexión LLM, el contenido del documento se envía al proveedor externo al que se conecta y se procesa en la infraestructura de ese proveedor, de acuerdo con sus términos y políticas de datos. Elija un proveedor que cumpla sus requisitos de residencia de datos y cumplimiento normativo. Microsoft Foundry admite residencia de datos en Azure y controles de cumplimiento. Proteja las credenciales almacenadas en cada conexión:
  • Nunca comparta claves de API ni las incluya en la descripción de una conexión.
  • Rote las credenciales periódicamente.
  • Use conexiones independientes para desarrollo y producción.
  • Asigne a cada clave solo los privilegios mínimos que necesite.

​
Costo y uso de tokens

El uso de LLM lo factura el proveedor en función del número de tokens procesados. El costo varía según la longitud del documento, la complejidad del prompt, el formato del documento enviado al modelo y la cantidad de campos que extraigas. Supervisa el uso en el panel de tu proveedor y utiliza modelos más pequeños y rápidos para tareas sencillas.

​
Proveedores y modelos compatibles

Vantage admite varios proveedores de LLM, cada uno con sus propios campos de conexión y modelos. Para ver la lista actual, consulte Proveedores y modelos de LLM compatibles.

​
Qué sigue

Configurar conexiones LLM

Configure una conexión a nivel del tenant con un proveedor de LLM.

Extraer datos con actividades basadas en prompt

Cree una actividad de extracción basada en prompt en Advanced Designer.

Proveedores y modelos de LLM compatibles

Compare proveedores, campos de conexión y modelos de ejemplo.