Skip to main content
ABBYY Vantage utilise des grands modèles de langage (LLM) externes pour extraire, classer et interpréter les données des documents à partir d’instructions en langage naturel. Vantage se connecte à des fournisseurs de LLM tels que Anthropic, Google AI Studio (Gemini), Microsoft Foundry, Mistral AI et OpenAI ChatGPT, au lieu d’héberger lui-même des modèles.
Les fonctionnalités LLM sont actuellement disponibles uniquement pour les Compétences de document via ABBYY Advanced Designer. Les connexions LLM sont configurées au niveau du tenant, sous ADMIN → Configuration → Connections.

​
Comment les LLM fonctionnent dans Vantage

Vantage utilise les LLM au moyen de deux composants de base :
  • connexion LLM - Des identifiants au niveau du tenant qui relient Vantage à un fournisseur de LLM. Une connexion est partagée à l’échelle de votre tenant et peut être réutilisée par n’importe quelle compétence.
  • extraction basée sur des prompts - Une activité Advanced Designer qui envoie un document, ainsi que votre prompt en langage naturel, au LLM connecté et met la réponse en correspondance avec vos champs de sortie.
Une configuration typique se déroule de bout en bout comme suit.
1

Configurer une connexion LLM

Un administrateur du tenant ajoute une connexion à un fournisseur sous ADMIN → Configuration → Connections. Pour connaître la procédure, voir Configurer les connexions LLM.
2

Ajouter une activité basée sur des prompts

Dans Advanced Designer, ajoutez une activité basée sur des prompts à une Compétence de document et sélectionnez la connexion LLM qu’elle doit utiliser. Pour connaître la procédure, voir Extraire des données avec des activités basées sur des prompts.
3

Publier et exécuter

Lorsque vous publiez la compétence, la connexion sélectionnée devient la valeur par défaut de la compétence dans le portail Web de Vantage, sous Skill Catalog → [skill] → Parameters. Un administrateur du tenant peut la remplacer pour un environnement donné sans republier la compétence. Pour plus d’informations, voir Paramètres de la compétence de document.

​
Quand utiliser les LLM

L’extraction par LLM basée sur des prompts ne nécessite aucune donnée d’entraînement et s’adapte rapidement à de nouveaux champs et à de nouvelles mises en page. Chaque extraction fait appel à une API externe, ce qui la rend plus coûteuse et plus lente qu’un modèle entraîné, et les résultats peuvent légèrement varier d’une exécution à l’autre.

​
Gestion des données et sécurité

Lorsqu’une compétence utilise une connexion LLM, le contenu du document est envoyé au fournisseur externe auquel vous êtes connecté et traité sur l’infrastructure de ce fournisseur, conformément à ses conditions d’utilisation et à ses politiques de gestion des données. Choisissez un fournisseur qui répond à vos exigences en matière de localisation des données et de conformité. Microsoft Foundry prend en charge des contrôles de localisation des données et de conformité basés sur Azure. Protégez les identifiants stockés dans chaque connexion :
  • Ne partagez jamais les clés API et ne les incluez pas dans la description d’une connexion.
  • Renouvelez régulièrement les identifiants.
  • Utilisez des connexions distinctes pour le développement et la production.
  • Accordez à chaque clé uniquement les privilèges dont elle a besoin.

​
Coût et utilisation des jetons

L’utilisation des LLM est facturée par le fournisseur en fonction du nombre de jetons traités. Le coût dépend de la longueur du document, de la complexité du prompt, du format du document envoyé au modèle et du nombre de champs extraits. Surveillez votre consommation dans le tableau de bord de votre fournisseur et utilisez des modèles plus petits et plus rapides pour les tâches simples.

​
Fournisseurs et modèles pris en charge

Vantage prend en charge plusieurs fournisseurs de LLM, chacun disposant de ses propres champs de connexion et modèles. Pour consulter la liste actuelle, voir Fournisseurs et modèles de LLM pris en charge.

​
Étapes suivantes

Configurer les connexions LLM

Configurez une connexion à un fournisseur de LLM au niveau du tenant.

Extraire des données avec des activités basées sur des prompts

Créez une activité d’extraction basée sur des prompts dans Advanced Designer.

fournisseur et modèle de LLM pris en charge

Comparez les fournisseurs, les champs de connexion et des modèles d’exemple.