> ## Documentation Index
> Fetch the complete documentation index at: https://docs.abbyy.com/llms.txt
> Use this file to discover all available pages before exploring further.

# LLMs in ABBYY Vantage

> Wie ABBYY Vantage große Sprachmodelle (LLMs) für KI-gestützte Dokumentenextraktion nutzt, einschließlich LLM-Verbindungen, promptbasierter Extraktion, unterstützter Provider, Datenverarbeitung und Kosten.

ABBYY Vantage nutzt externe **große Sprachmodelle (LLMs)**, um Dokumentdaten auf Basis natürlichsprachlicher Anweisungen zu extrahieren, zu klassifizieren und zu interpretieren. Vantage verbindet sich mit LLM-Providern wie **Anthropic**, **Google AI Studio (Gemini)**, **Microsoft Foundry**, **Mistral AI** und **OpenAI ChatGPT**, anstatt selbst Modelle zu hosten.

<Note>
  LLM-Funktionen sind derzeit nur in Document-Skills über ABBYY Advanced Designer verfügbar. LLM-Verbindungen werden auf Mandanten-Ebene unter **ADMIN → Konfiguration → Connections** konfiguriert.
</Note>

<div id="how-llms-work-in-vantage">
  ## Wie LLMs in Vantage funktionieren
</div>

Vantage verwendet LLMs über zwei Bausteine:

* **LLM-Verbindung** - Anmeldedaten auf Mandantenebene, die Vantage mit einem LLM-Provider verbinden. Eine Verbindung wird mandantenweit gemeinsam genutzt und kann von jedem Skill wiederverwendet werden.
* **Promptbasierte Extraktion** - Eine Aktivität in Advanced Designer, die ein Dokument zusammen mit Ihrem natürlichsprachlichen Prompt an das verbundene LLM sendet und die Antwort den Ausgabefeldern zuordnet.

Eine typische Einrichtung sieht durchgängig wie folgt aus.

<Steps>
  <Step title="Eine LLM-Verbindung konfigurieren">
    Ein Mandantenadministrator fügt unter **ADMIN → Konfiguration → Connections** eine Verbindung zu einem Provider hinzu. Die einzelnen Schritte finden Sie unter [LLM-Verbindungen konfigurieren](/de/vantage/documentation/skills/connections).
  </Step>

  <Step title="Eine promptbasierte Aktivität hinzufügen">
    Fügen Sie in Advanced Designer einem Document-Skill eine **promptbasierte** Aktivität hinzu und wählen Sie die LLM-Verbindung aus, die sie verwenden soll. Die einzelnen Schritte finden Sie unter [Daten mit promptbasierten Aktivitäten extrahieren](/de/vantage/documentation/skills/prompt-extraction).
  </Step>

  <Step title="Veröffentlichen und ausführen">
    Wenn Sie den Skill veröffentlichen, wird die ausgewählte Verbindung im Vantage Web Portal unter **Skill Catalog → \[skill] → Parameters** zur Standardverbindung des Skills. Ein Mandantenadministrator kann sie je Umgebung überschreiben, ohne den Skill erneut zu veröffentlichen. Weitere Informationen finden Sie unter [Document-Skill-Parameter](/de/vantage/documentation/skill-designer/skill-parameters/document-skill-params).
  </Step>
</Steps>

<div id="when-to-use-llms">
  ## Wann LLMs sinnvoll sind
</div>

Promptbasierte LLM-Extraktion benötigt keine Trainingsdaten und lässt sich schnell an neue Felder und Layouts anpassen. Jede Extraktion ruft jedoch eine externe API auf, ist daher teurer und langsamer als ein trainiertes Modell, und die Ergebnisse können zwischen den Durchläufen leicht variieren.

| Promptbasierte LLM-Extraktion verwenden, wenn                  | Traditionelle Extraktion bevorzugen, wenn                                      |
| :------------------------------------------------------------- | :----------------------------------------------------------------------------- |
| Dokumente variable oder teilstrukturierte Layouts haben        | Dokumente stark strukturiert oder vorlagenbasiert sind                         |
| Sie nur wenige oder gar keine Trainingsdaten haben             | Sie große Mengen verarbeiten und die niedrigsten Kosten pro Dokument benötigen |
| Sie schnell Prototypen erstellen oder Felder hinzufügen müssen | Sie schnelle, deterministische und wiederholbare Ergebnisse benötigen          |
| Dokumente mehrere Sprachen enthalten                           | Die Verarbeitung offline ausgeführt werden muss                                |

<div id="data-handling-and-security">
  ## Datenverarbeitung und Sicherheit
</div>

Wenn ein Skill eine LLM-Verbindung verwendet, wird der Inhalt des Dokuments an den externen Provider gesendet, mit dem Sie verbunden sind, und auf der Infrastruktur dieses Providers gemäß dessen Nutzungsbedingungen und Datenrichtlinien verarbeitet. Wählen Sie einen Provider, der Ihren Anforderungen an Datenresidenz und Konformität entspricht. **Microsoft Foundry** unterstützt Azure-basierte Datenresidenz sowie Konformitätskontrollen.

Schützen Sie die in jeder Verbindung gespeicherten Anmeldedaten:

* Geben Sie API-Schlüssel niemals weiter und nehmen Sie sie nicht in die Beschreibung einer Verbindung auf.
* Wechseln Sie die Anmeldedaten regelmäßig.
* Verwenden Sie getrennte Verbindungen für Entwicklung und Produktion.
* Erteilen Sie jedem Schlüssel nur die minimal erforderlichen Berechtigungen.

<div id="cost-and-token-usage">
  ## Kosten und Tokenverbrauch
</div>

Die Nutzung von LLMs wird vom Provider anhand der Anzahl der verarbeiteten Token abgerechnet. Die Kosten steigen mit der Dokumentlänge, der Komplexität des Prompts, dem an das Modell gesendeten Dokumentformat und der Anzahl der Felder, die Sie extrahieren. Überwachen Sie den Verbrauch im Dashboard Ihres Providers, und verwenden Sie für einfache Aufgaben kleinere, schnellere Modelle.

<div id="supported-providers-and-models">
  ## Unterstützte Provider und Modelle
</div>

Vantage unterstützt mehrere LLM-Provider, jeweils mit eigenen Verbindungsfeldern und Modellen. Eine aktuelle Liste finden Sie unter [Unterstützte LLM-Provider und -Modelle](/de/vantage/documentation/llms/supported-providers-models).

<div id="whats-next">
  ## Wie geht es weiter?
</div>

<CardGroup cols={3}>
  <Card title="LLM-Verbindungen konfigurieren" icon="plug" href="/de/vantage/documentation/skills/connections">
    Richten Sie eine mandantenweite Verbindung zu einem LLM-Anbieter ein.
  </Card>

  <Card title="Daten mit promptbasierten Aktivitäten extrahieren" icon="wand-magic-sparkles" href="/de/vantage/documentation/skills/prompt-extraction">
    Erstellen Sie im Advanced Designer eine promptbasierte Extraktionsaktivität.
  </Card>

  <Card title="Unterstützte LLM-Provider und Modelle" icon="table" href="/de/vantage/documentation/llms/supported-providers-models">
    Vergleichen Sie Provider, Verbindungsfelder und Beispielmodelle.
  </Card>
</CardGroup>

<div id="related-topics">
  ## Verwandte Themen
</div>

* [Übersicht über den Skill Designer](/de/vantage/documentation/skill-designer/skill-designer)
* [Document-Skill-Parameter](/de/vantage/documentation/skill-designer/skill-parameters/document-skill-params)