如何在 ABBYY Vantage 中配置 LLM 连接

ABBYY Vantage 中的 LLM 连接允许您将 OpenAI、Microsoft Foundry 等提供商的强大语言模型直接集成到文档处理工作流中。通过这些连接，您的 Document Skill 可以利用最前沿的 AI，更准确地完成复杂文档的提取、分类和理解。 本节将帮助您完成以下步骤：

• 访问 Connections 配置
• 添加新的 LLM 连接
• 配置连接凭据和设置
• 测试连接

预计完成时间： 10–15 分钟 支持的 LLM 提供商：

• OpenAI ChatGPT
• Microsoft Foundry

注意： 目前，LLM 连接只能通过 ABBYY Advanced Designer 在 Document Skill 中使用。

---

在开始之前，请确保您已具备：

1. 对 ABBYY Vantage Configuration 的管理员访问权限。
2. 来自所选 LLM 提供商的API 凭据：
   • **OpenAI：**您 OpenAI 帐户中的 API 密钥
   • **Microsoft Foundry：**来自 Azure 中 Microsoft Foundry 的 API 密钥、完整的 endpoint URL（包括 /chat/completions 路径和 API 版本）以及模型名称。
3. 与 LLM 提供商签订的有效订阅服务。

**注意：**LLM 连接在租户级别进行管理，可供您组织中的所有 Skill 设计人员使用。目前，LLM 连接只能通过 ABBYY Advanced Designer 集成到 Document Skill 中。

---

导航到 Configuration 区域，在这里您将管理 LLM 连接。

1. 在 ABBYY Vantage 界面中，在左侧边栏找到 ADMIN 部分。
2. 点击 Configuration（齿轮图标）。

您将看到 Configuration 页面，左侧菜单中包含多个选项：

• General
• Connections（这是我们将要使用的部分）
• Identity Provider
• Public API Client
• Security Log
• Environment Variables
• IP Restrictions

---

进入 Connections 管理界面。

1. 在左侧的 Configuration 菜单中，点击 Connections。

Connections 页面显示：

• 现有连接列表（如有）
• 连接详情：Name、Description、Used in Skills、Last Updated
• 管理按钮：Add Connection、Test、Edit、Delete
• 用于查找特定连接的搜索功能

注意： Connections 是共享资源。在您的租户中，所有 Skill 设计人员都可以在其 Skill 中使用这些 Connections。

---

开始创建到您的 LLM 提供商的新连接。

1. 在 Connections 页面的顶部单击 + Add Connection 按钮。
2. 将弹出 Add Connection 对话框，显示可用的 LLM 提供商：
   • OpenAI ChatGPT - 直接连接到 OpenAI 的 API
   • Microsoft Foundry - 托管在 Microsoft Azure 基础设施上的 OpenAI 及其他 AI 模型
3. 选择您需要的提供商（在本示例中，我们将使用 Microsoft Foundry）。
4. 单击 Next.

注意： 不同提供商有不同的配置要求。请选择与贵组织的 LLM 订阅相匹配的提供商。

---

填写 LLM 连接所需的必填信息。 名称

• 此连接的唯一标识符
• 示例：Microsoft Foundry 或 Production GPT-4
• 在选择 Document Skill 的连接时会显示此名称。

描述

• 可选，但推荐填写。
• 提供有关该连接的有用说明信息。
• 示例：“Microsoft Foundry Connection 1” 或 “GPT-4 Production API”。
• 重要： 不要在描述中包含任何敏感凭据。

注意： 请选择具有描述性的名称，以帮助 Skill 设计人员了解在不同用途或场景下应使用哪个连接。 所需的 field 取决于你所使用的 LLM 提供商： Api Key

• 您在 Azure 门户中的 Microsoft Foundry API 密钥。
• 查找路径：Azure Portal → 您的 Microsoft Foundry Resource → Keys and Endpoint。
• 格式：一长串字母和数字的组合。
• 示例占位符：[API Key Here]

Url

• 您的 Microsoft Foundry 终结点 URL。
• 查找路径：Azure Portal → 您的 Microsoft Foundry Resource → Keys and Endpoint。
• 格式：https://[resource].cognitiveservices.azure.com/openai/deployments/[model-name]/chat/completions?api-version=2025-01-01-preview
• 示例：https://[redacted]resource.cognitiveservices.azure.com/openai/deployments/gpt-4.1-nano/chat/completions?api-version=2025-01-01-preview

Model Name

• 您在 Microsoft Foundry 中已部署模型的名称。
• 查找路径：Azure Portal → 您的 Microsoft Foundry Resource → Deployments。
• 示例：gpt-4.1-nano、gpt-35-turbo、gpt-4
• 必须与您的部署名称完全一致。

API Key

• 来自 platform.openai.com 的 OpenAI API 密钥。
• 查找路径：OpenAI Platform → API Keys。
• 格式：以 sk- 开头

Model

• 要使用的具体模型（例如：gpt-4、gpt-3.5-turbo）

警告： 切勿共享 API 密钥，也不要将其写入描述中。这些凭据可用于访问您的 LLM 服务并产生相关费用。

---

在保存之前，请先确认连接已正确配置。

1. 输入所有必需信息后，点击 Test 按钮。

2. Vantage 将使用您提供的凭据尝试连接到您的 LLM 提供商。
3. 查看测试结果：
   • 成功（绿色对勾）： 连接正常可用。
   • 失败（红色 X 或错误消息）： 请检查您的凭据并重试。

测试成功：

• 在连接旁会显示绿色对号。
• 现在可以保存该连接。
• 该连接已可在 Document Skills 中使用。

测试失败：

• 查看错误信息以了解具体问题。
• 常见问题包括：
  • API 密钥不正确
  • 端点 URL 无效
  • 模型名称错误
  • 网络连接问题
  • 权限或配额不足

​

注意： 在保存之前务必先测试连接。这样可以确保 Document Skills 能够成功使用该 LLM 提供商。

完成连接设置。

1. 测试成功后，单击 Add 按钮。
2. 您的连接现在会显示在 Connections 列表中。
3. 此连接会立即对您租户中的所有 Skill 设计人员可用。

Connections 页面现在显示：

• Connection name： 按您指定的名称
• Description： 您填写的说明
• Used in Skills： 将显示使用此连接的 Skill
• Last Updated： 当前时间戳

---

​

管理现有连接

创建连接后，您可以对其进行管理。

1. 从列表中选择该连接。
2. 点击带铅笔图标的 Edit 按钮。
3. 更新所需字段。
4. 再次测试该连接。
5. 点击 Save.

警告： 编辑连接会影响所有使用该连接的 Skill。更改后请进行充分测试。

1. 从列表中选择该连接。
2. 点击 Test 按钮（刷新图标）。
3. 确认该连接仍在正常工作。
4. 这对于排查问题或验证凭据非常有用。

​

删除连接

1. 从列表中选择连接。
2. 单击 Delete 按钮（垃圾桶图标）。
3. 确认删除。

警告： 无法删除当前正被活动 Skill 使用的连接。请先在所有 Skill 中移除该连接。

---

​

故障排除

问题： 连接测试返回错误信息。 解决方案：

• 无效的 API 密钥：
  • 确认已完整且正确地复制密钥。
  • 检查是否存在多余的空格或字符。
  • 如有需要，在提供商门户中重新生成密钥。
• 无效的终结点 URL：
  • 确保 URL 完整且格式正确。
  • 验证该 URL 与您的 Azure 资源相匹配。
  • 检查部署路径中的拼写错误。
• 错误的模型名称：
  • 确认该部署已在 Azure 门户中创建。
  • 检查拼写和大小写（区分大小写）。
  • 验证该部署处于活动且可用状态。
• 网络问题：
  • 检查您的网络连接状况。
  • 验证防火墙设置允许出站 HTTPS 连接。
  • 确认您的 Vantage 实例可以访问 LLM 提供商。
• 配额或权限：
  • 验证您的订阅处于激活状态。
  • 检查是否已超出速率限制。
  • 确保您的 API 密钥具有必要的权限。

问题： 测试成功，但 Skills 无法使用该连接。 解决方案：

• 刷新 Skill Designer 页面。
• 在 Skill 配置中重新选择该连接。
• 检查该 Skill 的错误日志以获取具体错误信息。
• 确认该 Skill 已发布且不处于草稿状态。

​

API 成本高于预期

问题： 来自 LLM 提供商的意外费用。 解决方案：

• 检查哪些 Skill 正在使用该连接。
• 检查处理量和处理频率。
• 考虑实施限流策略（rate limiting）。
• 通过提供商的控制台/仪表板监控使用情况。
• 在测试阶段使用更具成本效益的模型。

---

​

最佳实践

• 切勿在明文电子邮件或聊天工具中共享 API 密钥。
• 定期轮换凭据（建议每 90 天一次）。
• 为开发和生产环境分别使用独立的连接。
• 在 LLM 提供商的控制台中监控访问日志。
• 实施最小权限访问原则——仅授予必要的权限。
• 将备份凭据安全存储，以备紧急情况之需。

• 使用具有描述性的名称 来表明用途或环境。
  • 推荐示例：“Production GPT-4”、“Development Microsoft Foundry”
  • 避免：“Connection 1”、“Test”
• 在描述中记录 每个连接的用途
  • 应包含：环境、用例、负责人联系方式
  • 不应包含：凭据、敏感信息
• 定期测试连接 以便及早发现问题
  • 制定每月检查计划。
  • 在任何凭据变更后进行测试。
• 跟踪使用情况 以了解哪些连接处于活动状态
  • 查看“Used in Skills”列。
  • 归档或删除未使用的连接。

• 为每个用例选择合适的模型。
  • 对于简单任务使用更小、更快速的模型。
  • 将高级模型留给复杂的抽取任务。
• 实现限流机制（如果服务提供商支持）。
  • 防止成本意外激增。
  • 防止处理任务失控。
• 监控使用模式
  • 在服务提供商的控制台中设置账单提醒。
  • 定期审查每月成本和使用情况。
• 在 Document Skills 中优化提示词（prompts）。
  • 高效的提示词可以减少 token 使用量。
  • 通过测试与迭代，以最低成本获得最佳效果。

​

工作流程优化

• 将相似的文档类型归类在一起
• 为你的用例配置合适的 Document Skill
• 在用于生产环境前使用示例文档进行测试
• 将你的工作流程文档化，供团队参考

---

​

连接类型概述

最适合：

• 直接访问最新的 OpenAI 模型
• 只需一个 API 密钥即可完成简单配置
• 已经在使用 OpenAI 平台的组织

注意事项：

• 数据由 OpenAI 的基础设施进行处理
• 受 OpenAI 的条款和数据政策约束
• 需要 OpenAI 账户和 API 访问权限

​

Microsoft Foundry

最适用于：

• 基于 Azure 基础架构的企业级部署
• 需要数据驻留控制的组织
• 需要与其他 Azure 服务集成的组织
• 需要增强安全性和合规特性的场景
• 通过 Azure 访问 OpenAI 和其他 AI 模型
• 已有 Azure 订阅的组织

注意事项：

• 需要 Azure 订阅并完成 Microsoft Foundry 设置
• 需要更多配置（带完整路径的终结点 URL、模型名称、API 版本）
• 可用模型可能与直接使用 OpenAI 时不同
• URL 必须包含完整路径：/openai/deployments/[model-name]/chat/completions?api-version=...
• 可能提供专用功能和自定义模型托管

---

• OpenAI API 文档： https://platform.openai.com/docs
• Microsoft Foundry： https://azure.microsoft.com/products/ai-foundry
• Azure AI Services 文档： https://learn.microsoft.com/azure/ai-services/
• 支持： 如需技术支持，请联系 ABBYY 技术支持团队

---

​

总结

您已成功完成以下操作：

• ✅ 打开 Configuration 设置
• ✅ 进入 Connections 管理
• ✅ 添加新的 LLM 连接
• ✅ 配置连接凭据和相关设置
• ✅ 测试连接
• ✅ 学习如何管理连接

您的 LLM 连接现已准备就绪，可在 ABBYY Vantage 中为 Document Skills 提供高级 AI 能力支持！