跳转到主要内容

​
概览

ABBYY Vantage 中的 LLM 连接允许您将来自 OpenAI 和 Microsoft Foundry 等提供商的强大语言模型，直接集成到您的文档处理工作流中。这些连接使您的文档技能能够利用尖端 AI 技术，更准确地提取、分类并理解复杂文档。 您将完成以下任务：
  • 访问 Connections 配置
  • 添加新的 LLM 连接
  • 配置连接凭据和设置
  • 测试您的连接
预计完成时间： 10–15 分钟 支持的 LLM 提供商：
  • OpenAI ChatGPT
  • Microsoft Foundry
注意： 目前，LLM 连接只能通过 ABBYY Advanced Designer 在文档技能中使用。

​
先决条件

在开始之前，请确保您具备以下条件：
  1. 对 ABBYY Vantage 配置具有管理员访问权限。
  2. 来自所选 LLM 提供商的API 凭据：
    • OpenAI： 您的 OpenAI 账户中的 API 密钥
    • Microsoft Foundry： Azure 中 Microsoft Foundry 提供的 API 密钥、完整端点 URL（包括 /chat/completions 路径和 API 版本）以及模型名称。
  3. 您所选 LLM 提供商的有效订阅。
注意： LLM 连接在租户级别进行管理，组织中的所有 Skill Designer 用户都可以使用。目前，LLM 连接只能通过 ABBYY Advanced Designer 集成到文档技能（Document Skills）中。

​
步骤 1：访问配置设置

导航到配置区域，在这里可以管理 LLM 连接。
  1. 在 ABBYY Vantage 界面中，在左侧边栏找到 ADMIN 部分。
  2. 点击 Configuration（齿轮图标）。
Accessing Configuration 您将看到配置页面，左侧菜单中包含多个选项：
  • General
  • Connections（这是我们将要使用的部分）
  • Identity Provider
  • Public API Client
  • Security Log
  • Environment Variables
  • IP Restrictions

​
步骤 2：转到 Connections

访问 Connections 管理界面。
  1. 在左侧的 Configuration 菜单中，点击 Connections。
Connections Page Connections 页面将显示：
  • 现有连接列表（如果有）
  • 连接详情：Name、Description、Used in Skills、Last Updated
  • 管理按钮：Add Connection、Test、Edit、Delete
  • 用于查找特定连接的搜索功能
**注意：**Connections 属于共享资源。租户中的所有 Skill Designer 用户都可以在其技能中使用这些 Connections。

​
步骤 3：添加新的 LLM 连接

开始创建到 LLM 提供商的新连接。
  1. 在 Connections 页面顶部点击 + Add Connection 按钮。
  2. 会出现 Add Connection 对话框，列出可用的 LLM 提供商：
    • OpenAI ChatGPT - 直接连接到 OpenAI 的 API
    • Microsoft Foundry - 在 Microsoft Azure 基础架构上托管的 OpenAI 和其他 AI 模型
  3. 选择所需的提供商（在本示例中，我们将使用 Microsoft Foundry）。
  4. 点击 Next.
注意： 不同提供商的配置要求各不相同。请选择与您组织的 LLM 订阅相匹配的提供商。

​
步骤 4：配置连接详细信息

请为您的 LLM 连接填写必填信息。 连接配置

​
常规设置

名称
  • 用于标识此连接的唯一名称
  • 示例：Microsoft Foundry 或 Production GPT-4
  • 在文档技能中选择连接时会显示此名称。
描述
  • 可选，但建议填写。
  • 提供有关此连接的有用说明或背景信息。
  • 示例：“Microsoft Foundry Connection 1” 或 “GPT-4 Production API”。
  • 重要提示： 不要在描述中包含任何敏感凭据。
注意： 请选择具有清晰描述性的名称，以帮助 Skill Designer 用户了解在不同用途下应使用哪个连接。

​
连接设置

必填字段取决于您所使用的 LLM 提供商：

​
对于 Microsoft Foundry：

Api Key
  • 来自 Azure 门户的 Microsoft Foundry API 密钥。
  • 查找路径：Azure 门户 → 您的 Microsoft Foundry 资源 → Keys and Endpoint。
  • 格式：一个较长的字母数字组合字符串。
  • 示例占位符：[API Key Here]
Url
  • 您的 Microsoft Foundry 终结点 URL。
  • 查找路径：Azure 门户 → 您的 Microsoft Foundry 资源 → Keys and Endpoint。
  • 格式：https://[resource].cognitiveservices.azure.com/openai/deployments/[model-name]/chat/completions?api-version=2025-01-01-preview
  • 示例：https://[redacted]resource.cognitiveservices.azure.com/openai/deployments/gpt-4.1-nano/chat/completions?api-version=2025-01-01-preview
Model Name
  • 您在 Microsoft Foundry 中部署的模型名称。
  • 查找路径：Azure 门户 → 您的 Microsoft Foundry 资源 → Deployments。
  • 示例：gpt-4.1-nano、gpt-35-turbo、gpt-4
  • 必须与实际部署名称完全一致。

​
对于 OpenAI ChatGPT：

Api Key
  • 来自 platform.openai.com 的 OpenAI API 密钥。
  • 可在以下位置找到：OpenAI Platform → API Keys。
  • 格式：以 sk- 开头
Model
  • 要使用的具体模型（例如：gpt-4、gpt-3.5-turbo）
警告： 切勿共享 API 密钥，也不要将其包含在描述中。这些凭据可用于访问您的 LLM 服务，并会产生相应费用。

​
步骤 5：测试您的连接

在保存之前，先验证您的连接是否已正确配置。
  1. 输入所有必填信息后，单击 Test 按钮。
Testing Connection
  1. Vantage 将使用您提供的凭据尝试连接到您的 LLM 提供商。
  2. 查看测试结果：
    • 成功（绿色对勾）： 连接正常。
    • 失败（红色 X 或错误消息）： 请检查您的凭据，然后重试。

​
测试结果

测试成功：
  • 在连接旁会显示一个绿色对勾。
  • 现在您可以保存该连接。
  • 该连接已可在文档技能中使用。
测试失败：
  • 查看错误消息以了解具体问题。
  • 常见问题包括：
    • 错误的 API 密钥
    • 无效的端点 URL
    • 错误的模型名称
    • 网络连接问题
    • 权限或配额不足
注意： 在保存之前务必先测试连接。这样可以确保您的文档技能能够成功使用该 LLM 提供商。

​
步骤 6：保存连接

完成连接配置。
  1. 测试成功后，点击 Add 按钮。
  2. 您的连接现在会显示在 Connections 列表中。
  3. 此连接会立即对您租户中的所有技能设计人员可用。
Connections 页面现在显示：
  • Connection name： 按您指定的名称
  • Description： 您填写的说明
  • Used in Skills： 会显示正在使用此连接的技能
  • Last Updated： 当前时间戳

​
管理现有连接

创建连接后即可对其进行管理。

​
编辑连接

  1. 从列表中选择该连接。
  2. 点击 Edit 按钮（铅笔图标）。
  3. 更新所需的字段。
  4. 再次测试该连接。
  5. 点击 Save.
警告： 编辑连接会影响所有使用该连接的技能。进行更改后请务必充分测试。

​
测试连接

  1. 从列表中选择该连接。
  2. 单击 Test 按钮（刷新图标）。
  3. 验证该连接是否仍然正常工作。
  4. 这对于排查故障或验证凭据非常有用。

​
删除连接

  1. 从列表中选择该连接。
  2. 单击 Delete 按钮（垃圾桶图标）。
  3. 确认删除。
警告： 无法删除当前正在被活动技能使用的连接。请先从所有技能中移除此连接。

​
疑难解答

​
连接测试失败

问题： 连接测试报错。 解决方案：
  • API 密钥无效：
    • 确认已完整且正确地复制了密钥。
    • 检查是否有多余的空格或字符。
    • 如有需要，在提供商门户中重新生成密钥。
  • 终结点 URL 无效：
    • 确保 URL 完整且格式正确。
    • 验证该 URL 与您的 Azure 资源匹配。
    • 检查部署路径中是否有拼写错误。
  • 模型名称错误：
    • 在 Azure 门户中确认该部署已存在。
    • 检查拼写和大小写（区分大小写）。
    • 验证部署处于启用且可用状态。
  • 网络问题：
    • 检查您的互联网连接。
    • 验证防火墙设置允许出站 HTTPS 连接。
    • 确认您的 Vantage 实例可以访问 LLM 提供商。
  • 配额或权限：
    • 验证您的订阅处于活动状态。
    • 检查是否已超出速率限制。
    • 确保您的 API 密钥具有必要的权限。

​
连接在测试中正常但在技能中失败

问题： 测试成功，但技能无法使用该连接。 解决方案：
  • 刷新 Skill Designer 页面。
  • 在技能配置中重新选择该连接。
  • 检查技能的错误日志以查看具体错误信息。
  • 确认技能已发布且未处于草稿模式。

​
API 成本超出预期

问题： 来自 LLM 提供商的意外费用。 解决方案：
  • 检查哪些技能在使用该连接。
  • 检查处理量和调用频率。
  • 考虑实施速率限制（限流）。
  • 通过提供商控制台监控使用情况。
  • 在测试阶段使用更具成本效益的模型。

​
最佳实践

​
安全性

  • 切勿共享 API 密钥，尤其不要在明文电子邮件或聊天工具中发送。
  • 定期更换凭据（建议每 90 天一次）。
  • 为开发和生产环境分别使用独立连接。
  • 在 LLM 提供商的控制台中监控访问日志。
  • 实施最小权限访问原则——只授予必需的权限。
  • 将备用凭据安全保存，以应对紧急情况。

​
连接管理

  • 使用具有描述性的名称 来指明用途或环境。
    • 推荐：“Production GPT-4”、“Development Microsoft Foundry”
    • 避免：“Connection 1”、“Test”
  • 在描述中说明 每个连接的用途
    • 应包含：环境、使用场景、负责人联系方式
    • 不应包含：凭据、敏感信息
  • 定期测试连接 以尽早发现问题
    • 制定每月检查计划。
    • 在任何凭据变更后进行测试。
  • 跟踪使用情况 了解哪些连接正在使用
    • 查看 “Used in Skills” 列。
    • 归档或删除未使用的连接。

​
成本管理

  • 为每个用例选择合适的模型。
    • 对于简单任务使用更小、更快的模型。
    • 将高级模型保留用于复杂的提取场景。
  • 实施速率限制（如果您的服务提供商支持）。
    • 防止成本意外激增。
    • 防止处理失控。
  • 监控使用模式
    • 在服务提供商的控制台中设置账单提醒。
    • 定期审查每月成本和用量。
  • 优化文档技能中的提示词。
    • 高效的提示词可以减少 token 使用量。
    • 通过测试和优化，在降低成本的同时获得最佳效果。

​
工作流优化

  • 将相似的文档类型分组在一起
  • 针对用例配置合适的文档技能
  • 在投入生产环境前，使用示例文档进行测试
  • 将工作流编写成文档，供团队参考

​
了解连接类型

​
OpenAI ChatGPT

最适合：
  • 直接访问最新的 OpenAI 模型
  • 只需一个 API 密钥即可完成的简单配置
  • 已经在使用 OpenAI 平台的组织
注意事项：
  • 数据由 OpenAI 的基础设施处理
  • 受 OpenAI 的条款和数据政策约束
  • 需要 OpenAI 账户和 API 访问权限

​
Microsoft Foundry

最适用于：
  • 基于 Azure 基础设施的企业级部署
  • 需要数据驻留控制的组织
  • 需要与其他 Azure 服务集成的组织
  • 需要增强安全性和合规功能的场景
  • 通过 Azure 访问 OpenAI 和其他 AI 模型的场景
  • 已有 Azure 订阅的组织
注意事项：
  • 需要 Azure 订阅并完成 Microsoft Foundry 的设置
  • 需要进行更多配置（带完整路径的终结点 URL、模型名称、API 版本）
  • 可用模型可能与直接使用 OpenAI 时不同
  • URL 必须包含完整路径：/openai/deployments/[model-name]/chat/completions?api-version=...
  • 可能提供特定功能和自定义模型托管

​
其他资源

​
总结

您已经成功完成了以下操作：
  • ✅ 访问了 Configuration 设置
  • ✅ 进入了 Connections 管理界面
  • ✅ 添加了新的 LLM 连接
  • ✅ 配置了连接凭据和设置
  • ✅ 测试了您的连接
  • ✅ 了解了如何管理连接
您的 LLM 连接现已准备好为 ABBYY Vantage 文档技能提供高级 AI 能力！