Skip to main content
ABBYY Vantage は、自然言語の指示に基づいて文書データを抽出、分類、理解するために、外部の 大規模言語モデル (LLM) を使用します。Vantage 自体がモデルをホストするのではなく、Anthropic、Google AI Studio (Gemini)、Microsoft Foundry、Mistral AI、OpenAI ChatGPT などの LLM プロバイダーに接続します。
LLM 機能は現在、ABBYY Advanced Designer の Document Skills でのみ利用できます。LLM 接続は、テナント レベルで ADMIN → Configuration → Connections から設定します。

​
Vantage での LLM の仕組み

Vantage では、LLM を次の 2 つの構成要素で利用します。
  • LLM 接続 - Vantage を LLM プロバイダー に接続するためのテナント レベルの認証情報です。接続はテナント全体で共有され、どの Skill からでも再利用できます。
  • プロンプトベースの抽出 - Advanced Designer のアクティビティで、ドキュメントと自然言語の prompt を接続先の LLM に送信し、レスポンスを出力フィールドにマッピングします。
一般的な設定の流れは、次のとおりです。
1

LLM 接続を設定する

テナント管理者が ADMIN → Configuration → Connections で provider への接続を追加します。手順については、LLM 接続を設定する を参照してください。
2

プロンプトベースのアクティビティを追加する

Advanced Designer で、Document Skill に Prompt-based アクティビティを追加し、使用する LLM 接続を選択します。手順については、プロンプトベースのアクティビティでデータを抽出する を参照してください。
3

公開して実行する

Skill を公開すると、選択した接続が Vantage Web Portal の Skill Catalog → [skill] → Parameters でその Skill の既定値になります。テナント管理者は、再公開しなくても環境ごとにこの設定を上書きできます。詳細については、Document skill パラメーター を参照してください。

​
LLM の利用が適している場面

プロンプトベースの LLM 抽出は学習データを必要とせず、新しいフィールドやレイアウトにもすばやく対応できます。抽出のたびに外部 API を呼び出すため、トレーニング済みモデルと比べてコストが高く、処理速度も遅くなります。また、実行ごとに結果がわずかに異なる場合があります。

​
データの取り扱いとセキュリティ

Skill で LLM 接続を使用する場合、ドキュメントの内容は接続先の外部プロバイダーに送信され、プロバイダーの利用条件とデータ ポリシーに従って、そのプロバイダーのインフラストラクチャ上で処理されます。データ レジデンシおよびコンプライアンスの要件を満たすプロバイダーを選択してください。Microsoft Foundry は、Azure ベースのデータ レジデンシとコンプライアンス制御をサポートしています。 各接続に保存されている認証情報を保護してください。
  • API キーを共有したり、接続の説明に含めたりしないでください。
  • 認証情報は定期的に更新してください。
  • 開発用と本番用で別々の接続を使用してください。
  • 各キーには、必要最小限の権限のみを付与してください。

​
コストとトークン使用量

LLM の利用料金は、処理されたトークン数に基づいてプロバイダーから請求されます。コストは、ドキュメントの長さ、プロンプトの複雑さ、モデルに送信するドキュメント形式、抽出するフィールド数に応じて増加します。使用状況はプロバイダーのダッシュボードで確認し、単純なタスクには、より小型で高速なモデルを使用してください。

​
サポート対象のプロバイダーとモデル

Vantage は複数の LLM プロバイダーをサポートしており、各プロバイダーにはそれぞれ固有の接続設定項目とモデルがあります。最新の一覧については、サポートされている LLM プロバイダーとモデルを参照してください。

​
次のステップ

LLM 接続を設定する

LLM プロバイダーへのテナントレベルの接続を設定します。

プロンプトベースのアクティビティでデータを抽出する

Advanced Designer でプロンプトベースの抽出アクティビティを作成します。

サポートされている LLM プロバイダーとモデル

プロバイダー、接続フィールド、モデル例を比較します。