- ABBYY Phoenix Plus: ein LLM-Endpunkt, den ABBYY für Sie bereitstellt und betreibt. Sie müssen nichts beschaffen, konfigurieren oder erneuern.
- Ihre eigene LLM-Verbindung: Anmeldedaten für Ihr eigenes Konto bei einem externen Provider wie Anthropic, Google AI Studio (Gemini), Microsoft Foundry, Mistral AI oder OpenAI. Mit Custom (OpenAI-Compatible) binden Sie einen OpenAI-kompatiblen Endpunkt an, den Sie selbst hosten oder kontrollieren.
Auswahl einer Quelle
Promptbasierte Extraktion ist derzeit ausschließlich in Document-Skills über den ABBYY Advanced Designer verfügbar. LLM-Verbindungen werden auf Mandantenebene unter ADMIN → Konfiguration → Connections verwaltet.
ABBYY Phoenix Plus
ABBYY Phoenix Plus stellt einem Tenant LLM-Funktionalität bereit, ohne dass ein eigenes Provider-Konto erforderlich ist. Es muss kein API-Schlüssel beschafft, keine endpoint URL und kein Modellname eingegeben und kein credential rotiert werden. ABBYY wählt das Modell aus, hostet und pflegt es und kann es aktualisieren, ohne dass auf Ihrer Seite Änderungen nötig sind. Ist die Berechtigung aktiviert, erscheint unter ADMIN → Konfiguration → Connections eine Connection mit dem Namen ABBYY Phoenix Model – gekennzeichnet mit einem Schloss-icon und der Beschreibung Managed by ABBYY. Da das dahinterliegende credential ABBYY gehört, ist die Connection nur lesbar: Sie können sie testen, aber nicht bearbeiten oder löschen, und ihre credentials werden nie angezeigt, auch nicht maskiert.Zwei Nutzungsmöglichkeiten
Die Verbindung ist nur die eine Seite. Was Sie damit tun können, hängt davon ab, wo Sie sie einsetzen.
Wenn Sie die LLM-Extraktion mit möglichst geringem Aufwand umsetzen möchten, verwenden Sie die promptbasierte Aktivität und wählen Sie ABBYY Phoenix Model in der Dropdown-Liste LLM Connection aus. Die einzelnen Schritte finden Sie unter Extract data with prompt-based activities.
Eine gemeinsam genutzte Verbindung bedeutet nicht auch eine gemeinsam genutzte Funktionalität. Die Techniken in Call ABBYY Phoenix Plus from a Custom activity erfordern Skriptarbeit.
Für das Senden von OCR-JSON oder Seitenbildern, das Validieren der Antwort und das Übernehmen von Feldpositionen aus dem OCR-Layer gibt es in der promptbasierten Aktivität keine Entsprechung. Diese Aktivität erstellt den Prompt und ordnet die Antwort für Sie zu.
Aufruf aus einem Script
Phoenix Plus lässt sich auch aus einer Benutzerdefinierten Aktivität innerhalb eines Process-Skills aufrufen, sodass das Modell als Schritt in Ihrem Workflow ausgeführt wird – wobei Payload und Antwort unter Ihrer Kontrolle bleiben.1
Berechtigung aktivieren lassen
Wenden Sie sich an Ihr ABBYY account team. Sobald die Berechtigung aktiviert ist, erscheint die Connection ABBYY Phoenix Model in der Connections-Liste Ihres Mandanten.
2
Eine Benutzerdefinierte Aktivität hinzufügen
Fügen Sie im Process Skill Designer an der Stelle im Workflow, an der das Modell ausgeführt werden soll, eine Custom-Aktivität hinzu. Die einzelnen Schritte finden Sie unter Benutzerdefinierte Aktivität.
3
Eine Sitzung öffnen und Ihre Vorgangsdaten anhängen
Das Script öffnet eine Chat-Sitzung über die verwaltete Connection und hängt alles an, was das Modell sehen soll – in der Regel den OCR-JSON-Export und Ihre Anweisungen. Auch Seitenbilder können angehängt werden, sofern die Größenbeschränkung für Nachrichten eingehalten wird. Informationen zur Sitzungs-API, zu den Limits und zu praktischen Beispielen finden Sie unter ABBYY Phoenix Plus aus einer Benutzerdefinierten Aktivität aufrufen.
4
Das strukturierte Ergebnis nachgelagert verwenden
Das Script fordert strukturiertes JSON an und erhält ein geparstes Objekt, das spätere Schritte im Prozess wie alle anderen Vorgangsdaten weiterverarbeiten können.
- Jede Nachricht unterliegt einer Größenbeschränkung, in die auch Bildinhalte einfließen; große Seitenbilder müssen daher bewusst gesteuert werden und dürfen nicht einfach vorausgesetzt werden.
- Das Modell liest und klassifiziert. Es misst nicht. Entnehmen Sie Feldpositionen und Begrenzungsrahmen stets dem Vantage-OCR-Layer, niemals dem Modell.
Ihre eigene LLM-Verbindung verwenden
Ein Mandantenadministrator fügt Anmeldedaten für ein Providerkonto hinzu, das Sie besitzen, und Skill-Designer wählen diese Verbindung in einer promptbasierten Aktivität aus.1
Eine LLM-Verbindung konfigurieren
Ein Mandantenadministrator fügt unter ADMIN → Konfiguration → Connections eine Verbindung zu einem Provider hinzu. Die einzelnen Schritte finden Sie unter LLM-Verbindungen konfigurieren.
2
Eine promptbasierte Aktivität hinzufügen
Fügen Sie in Advanced Designer einem Document-Skill eine promptbasierte Aktivität hinzu und wählen Sie die LLM-Verbindung aus, die sie verwenden soll. Die einzelnen Schritte finden Sie unter Daten mit promptbasierten Aktivitäten extrahieren.
3
Veröffentlichen und ausführen
Wenn Sie den Skill veröffentlichen, wird die ausgewählte Verbindung im Vantage Web Portal unter Skill Catalog → [skill] → Parameters zur Standardverbindung des Skills. Ein Mandantenadministrator kann sie je Umgebung überschreiben, ohne den Skill erneut zu veröffentlichen. Weitere Informationen finden Sie unter Document-Skill-Parameter.
Wann LLMs sinnvoll sind
Promptbasierte LLM-Extraktion benötigt keine Trainingsdaten und lässt sich schnell an neue Felder und Layouts anpassen. Jede Extraktion ruft jedoch ein Modell auf, ist daher teurer und langsamer als ein trainiertes Modell, und die Ergebnisse können zwischen den Durchläufen leicht variieren.Datenverarbeitung und Sicherheit
Wenn ein Skill Ihre eigene LLM-Verbindung verwendet, wird der Inhalt des Dokuments an den externen Provider gesendet, mit dem Sie verbunden sind, und auf der Infrastruktur dieses Providers gemäß dessen Nutzungsbedingungen und Datenrichtlinien verarbeitet. Wählen Sie einen Provider, der Ihren Anforderungen an Datenresidenz und Konformität entspricht. Microsoft Foundry unterstützt Azure-basierte Datenresidenz sowie Konformitätskontrollen. Bei Custom (OpenAI-Compatible) wird der Inhalt an den Endpunkt gesendet, den Sie in der Verbindung angeben. Die Datenresidenz richtet sich daher danach, wo Sie diesen Endpunkt betreiben. Wenn ein Skill oder ein Skript ABBYY Phoenix Plus verwendet, wird der Inhalt des Dokuments nicht an ein eigenes Provider-Konto gesendet, sondern an den Modell-Endpunkt, den ABBYY für diesen Service betreibt.Wo Phoenix Plus Ihre Daten verarbeitet
Phoenix Plus wird in drei Regionen betrieben, und Ihr Tenant nutzt jeweils die Region, in der er bereitgestellt wurde. Die Region lässt sich nicht pro Anfrage auswählen.
In den Vereinigten Staaten und in der Europäischen Union werden Anfragen innerhalb des jeweiligen geografischen Raums verarbeitet, und zwar in bestimmten Rechenzentren innerhalb dieses Raums.
Wie Ihre Inhalte verwendet werden
Inhalte, die Sie an ABBYY Phoenix Plus senden, sowie die zurückgegebenen Antworten:- Sind für andere Kunden nicht zugänglich.
- Sind für den Provider des zugrunde liegenden Modells nicht zugänglich.
- Werden von diesem Provider nicht zur Verbesserung seiner Modelle verwendet.
- Werden ohne Ihre Zustimmung nicht zum Trainieren generativer KI-Basismodelle verwendet.
- Werden ohne Ihre ausdrückliche Zustimmung oder Anweisung nicht zur Verbesserung eigener Produkte oder Produkte Dritter verwendet.
Was gespeichert wird
ABBYY speichert weder die Inhalte, die Sie an Phoenix Plus senden, noch die Antworten, die zurückgegeben werden. Der Service ist so konzipiert, dass er sie nicht aufbewahrt. Die regionale Tabelle oben beschreibt, wo die Verarbeitung erfolgt und wo eine etwaige Speicherung auf der Plattformebene erfolgen würde. Sie bedeutet nicht, dass ABBYY eine Kopie Ihrer Dokumente aufbewahrt. Was Ihre eigenen Skills mit den Daten tun, ist davon getrennt und liegt in Ihrer Kontrolle. Ein Skript einer benutzerdefinierten Aktivität, das eine Modellantwort in ein Dokumentfeld schreibt oder protokolliert, speichert diesen Inhalt auf die übliche Weise in Ihrem Tenant, gemäß Ihren eigenen Einstellungen zur Datenaufbewahrung. Schützen Sie die Anmeldedaten, die in jeder von Ihnen selbst konfigurierten Verbindung gespeichert sind:- Geben Sie API-Schlüssel niemals weiter und nehmen Sie sie nicht in die Beschreibung einer Verbindung auf.
- Wechseln Sie die Anmeldedaten regelmäßig.
- Verwenden Sie getrennte Verbindungen für Entwicklung und Produktion.
- Erteilen Sie jedem Schlüssel nur die minimal erforderlichen Berechtigungen.
Kosten und Tokenverbrauch
Die Nutzung Ihrer eigenen LLM-Verbindung wird vom Provider anhand der Anzahl der verarbeiteten Token abgerechnet. Die Kosten steigen mit der Dokumentlänge, der Komplexität des Prompts, dem an das Modell gesendeten Dokumentformat und der Anzahl der Felder, die Sie extrahieren. Überwachen Sie den Verbrauch im Dashboard Ihres Providers, und verwenden Sie für einfache Aufgaben kleinere, schnellere Modelle. ABBYY Phoenix Plus wird nicht über einen externen Provider abgerechnet. Der Zugriff ist eine vertraglich vereinbarte Berechtigung, die Sie mit Ihrem ABBYY account team abstimmen, und der Verbrauch wird von ABBYY erfasst. Ihre eigenen LLM-Verbindungen werden nicht auf diese Weise erfasst, da sie stattdessen über Ihren Provider abgerechnet werden. Der Verbrauch von Phoenix Plus wird derzeit nicht in der Vantage-Oberfläche angezeigt; Verbrauchswerte erhalten Sie bei Ihrem account team. Da die Nutzung Ihre Berechtigung belastet und nicht ein von Ihnen kontrolliertes Providerkonto, sollten Sie das Volumen im Blick behalten, bevor Sie einen umfangreichen Reprocessing-Auftrag auf einen Skill richten, der ihn verwendet.Unterstützte Provider und Modelle
Vantage unterstützt mehrere LLM-Provider für Verbindungen, die Sie selbst konfigurieren, jeweils mit eigenen Verbindungsfeldern und Modellen. Eine aktuelle Liste finden Sie unter Unterstützte LLM-Provider und -Modelle. ABBYY Phoenix Plus ist dort nicht aufgeführt, da es keine zu konfigurierenden Verbindungsfelder besitzt und sein Modell von ABBYY ausgewählt wird.Wie geht es weiter?
LLM-Verbindungen konfigurieren
Richten Sie eine mandantenweite Verbindung zu einem LLM-Anbieter ein.
Daten mit promptbasierten Aktivitäten extrahieren
Erstellen Sie im Advanced Designer eine promptbasierte Extraktionsaktivität.
Phoenix Plus aus einer benutzerdefinierten Aktivität aufrufen
Die Sitzungs-API, Nachrichtenlimits und der Umgang mit Feldpositionen.
