메인 콘텐츠로 건너뛰기

​
개요

ABBYY Vantage의 LLM 연결(LLM Connections)을 사용하면 OpenAI, Microsoft Foundry와 같은 제공자의 강력한 언어 모델을 문서 처리 워크플로우에 직접 통합할 수 있습니다. 이러한 연결을 통해 Document Skills가 최첨단 AI를 활용하여 복잡한 문서의 데이터 추출, 분류 및 이해를 더 정확하게 수행할 수 있습니다. 이 가이드를 통해 할 수 있는 작업:
  • Connections 구성에 액세스하기
  • 새로운 LLM 연결 추가하기
  • 연결 자격 증명 및 설정 구성하기
  • 연결 테스트하기
소요 시간: 10–15분 지원되는 LLM 제공자:
  • OpenAI ChatGPT
  • Microsoft Foundry
참고: 현재 LLM 연결은 ABBYY Advanced Designer를 통해서만 Document Skills에서 사용할 수 있습니다.

​
사전 준비 사항

시작하기 전에 다음을 준비했는지 확인하세요.
  1. ABBYY Vantage Configuration에 대한 관리자 권한.
  2. 선택한 LLM 제공업체에서 발급받은 API 자격 증명:
    • OpenAI: OpenAI 계정에서 발급받은 API 키
    • Microsoft Foundry: Microsoft Foundry in Azure에서 발급받은 API 키, 전체 엔드포인트 URL(/chat/completions 경로와 API 버전 포함), 그리고 모델 이름
  3. LLM 제공업체의 유효한 구독.
참고: LLM 연결은 테넌트 수준에서 관리되며, 조직 내 모든 Skill Designer가 사용할 수 있습니다. 현재 LLM 연결은 ABBYY Advanced Designer를 통해서만 Document Skill에 통합할 수 있습니다.

​
1단계: 구성 설정에 액세스하기

LLM 연결을 관리하는 구성 영역으로 이동합니다.
  1. ABBYY Vantage 인터페이스에서 왼쪽 사이드바의 ADMIN 섹션을 찾습니다.
  2. Configuration (톱니바퀴 아이콘)을 클릭합니다.
구성에 액세스하기 왼쪽 메뉴에 여러 옵션이 있는 Configuration 페이지가 표시됩니다:
  • General
  • Connections (여기에서 작업합니다)
  • Identity Provider
  • Public API Client
  • Security Log
  • Environment Variables
  • IP Restrictions

​
2단계: Connections로 이동

Connections 관리 인터페이스를 엽니다.
  1. 왼쪽의 Configuration 메뉴에서 Connections를 클릭합니다.
Connections Page Connections 페이지에는 다음이 표시됩니다:
  • 기존 연결 목록(있는 경우)
  • 연결 세부 정보: Name, Description, Used in Skills, Last Updated
  • 관리 버튼: Add Connection, Test, Edit, Delete
  • 특정 연결을 찾기 위한 검색 기능
참고: “Connections”는 공유 리소스입니다. 테넌트의 모든 Skill Designer 사용자는 자신의 스킬에서 이러한 Connections를 사용할 수 있습니다.

​
3단계: 새 LLM 연결 추가

LLM 제공자에 대한 새 연결 생성을 시작합니다.
  1. Connections 페이지 상단에서 + Add Connection 버튼을 클릭합니다.
  2. 사용 가능한 LLM 제공자가 표시된 Add Connection 대화 상자가 나타납니다:
    • OpenAI ChatGPT - OpenAI API에 직접 연결
    • Microsoft Foundry - Microsoft Azure 인프라에서 호스팅되는 OpenAI 및 기타 AI 모델
  3. 원하는 제공자를 선택합니다(이 예에서는 Microsoft Foundry를 사용합니다).
  4. Next를 클릭합니다.
참고: 각 제공자는 서로 다른 구성 요구 사항을 가집니다. 귀사의 LLM 구독에 해당하는 제공자를 선택하십시오.

​
4단계: 연결 세부 정보 설정

LLM 연결에 필요한 필수 정보를 입력합니다. 연결 구성

​
일반 설정

Name
  • 이 연결을 구분하는 고유한 이름
  • 예: Microsoft Foundry 또는 Production GPT-4
  • 이 이름은 Document skill에서 연결을 선택할 때 표시됩니다.
Description
  • 선택 사항이지만, 작성할 것을 권장합니다.
  • 이 연결에 대한 유용한 설명을 작성합니다.
  • 예: “Microsoft Foundry Connection 1” 또는 “GPT-4 Production API”.
  • 중요: 설명에 민감한 인증 정보는 포함하지 마십시오.
참고: 다양한 목적에 따라 어떤 연결을 사용해야 하는지 Skill Designer 사용자가 쉽게 이해할 수 있도록, 직관적인 이름을 지정하십시오.

​
연결 설정

필수 field는 사용 중인 LLM 공급자에 따라 다릅니다.

​
Microsoft Foundry용:

Api Key
  • Azure 포털에서 발급받은 Microsoft Foundry API 키입니다.
  • 위치: Azure Portal → Microsoft Foundry 리소스 → Keys and Endpoint
  • 형식: 긴 영숫자 string입니다.
  • 플레이스홀더 예시: [API Key Here]
Url
  • Microsoft Foundry 엔드포인트 URL입니다.
  • 위치: Azure Portal → Microsoft Foundry 리소스 → Keys and Endpoint
  • 형식: https://[resource].cognitiveservices.azure.com/openai/deployments/[model-name]/chat/completions?api-version=2025-01-01-preview
  • 예시: https://[redacted]resource.cognitiveservices.azure.com/openai/deployments/gpt-4.1-nano/chat/completions?api-version=2025-01-01-preview
Model Name
  • Microsoft Foundry에 배포된 모델의 이름입니다.
  • 위치: Azure Portal → Microsoft Foundry 리소스 → Deployments
  • 예시: gpt-4.1-nano, gpt-35-turbo, gpt-4
  • 반드시 배포된 모델 이름과 정확히 일치해야 합니다.

​
OpenAI ChatGPT의 경우:

API 키
  • platform.openai.com에서 발급받은 OpenAI API 키입니다.
  • 위치: OpenAI Platform → API Keys
  • 형식: sk-로 시작합니다.
모델
  • 사용할 구체적인 모델 (예: gpt-4, gpt-3.5-turbo)
경고: API 키를 절대 공유하거나 설명에 포함하지 마세요. 이 자격 증명은 LLM 서비스에 대한 액세스 권한과 이에 따른 비용 청구 권한을 부여합니다.

​
5단계: 연결 테스트

저장하기 전에 연결이 올바르게 구성되었는지 확인하세요.
  1. 모든 필수 정보를 입력한 후 Test 버튼을 클릭하세요.
Testing Connection
  1. Vantage는 제공한 자격 증명을 사용하여 LLM 제공자에 연결을 시도합니다.
  2. 테스트 결과를 확인하세요.
    • 성공(녹색 체크 표시): 연결이 정상적으로 작동합니다.
    • 실패(빨간 X 또는 오류 메시지): 자격 증명을 확인한 후 다시 시도하세요.

​
테스트 결과

테스트 성공:
  • 연결 옆에 초록색 체크 표시가 나타납니다.
  • 이제 연결을 저장할 수 있습니다.
  • 이 연결은 Document Skills에서 사용할 준비가 되었습니다.
테스트 실패:
  • 오류 메시지를 검토하여 구체적인 문제를 확인합니다.
  • 일반적인 문제:
    • 잘못된 API 키
    • 올바르지 않은 endpoint URL
    • 잘못된 모델 이름
    • 네트워크 연결 문제
    • 권한 또는 할당량 부족
참고: 항상 연결을 저장하기 전에 테스트하세요. 이렇게 하면 Document Skills에서 LLM 공급자를 성공적으로 사용할 수 있는지 확인할 수 있습니다.

​
6단계: 연결 저장하기

연결 구성을 마무리합니다.
  1. 테스트가 성공하면 Add 버튼을 클릭합니다.
  2. 이제 연결이 Connections 목록에 표시됩니다.
  3. 이 연결은 즉시 테넌트의 모든 스킬 설계자가 사용할 수 있습니다.
이제 Connections 페이지에는 다음이 표시됩니다:
  • Connection name: 지정한 이름
  • Description: 입력한 설명
  • Used in Skills: 이 연결을 사용하는 스킬이 표시됨
  • Last Updated: 현재 시각

​
기존 연결 관리

생성한 후에도 연결을 계속 관리할 수 있습니다.

​
연결 편집

  1. 목록에서 연결을 선택합니다.
  2. Edit 버튼(연필 아이콘)을 클릭합니다.
  3. 필요한 field 값을 수정합니다.
  4. 연결을 다시 테스트합니다.
  5. Save를 클릭합니다.
경고: 연결을 수정하면 해당 연결을 사용하는 모든 스킬에 영향을 줍니다. 변경한 후에는 충분히 테스트하십시오.

​
연결 테스트

  1. 목록에서 연결을 선택합니다.
  2. Test 버튼(새로 고침 아이콘)을 클릭합니다.
  3. 연결이 여전히 정상적으로 동작하는지 확인합니다.
  4. 이 기능은 문제 해결이나 자격 증명을 검증할 때 유용합니다.

​
연결 삭제

  1. 목록에서 연결을 선택합니다.
  2. Delete 버튼(휴지통 아이콘)을 클릭합니다.
  3. 삭제를 확인합니다.
경고: 현재 활성화된 스킬에서 사용 중인 연결은 삭제할 수 없습니다. 먼저 모든 스킬에서 이 연결을 제거해야 합니다.

​
문제 해결

​
연결 테스트 실패

문제: 연결 테스트에서 오류가 발생합니다. 해결 방법:
  • 유효하지 않은 API 키:
    • 전체 키를 정확히 복사했는지 확인합니다.
    • 불필요한 공백이나 문자가 포함되지 않았는지 확인합니다.
    • 필요하다면 공급자 포털에서 키를 다시 생성합니다.
  • 유효하지 않은 엔드포인트 URL:
    • URL이 완전하며 올바른 형식인지 확인합니다.
    • URL이 Azure 리소스와 일치하는지 확인합니다.
    • 배포 경로에 오탈자가 없는지 확인합니다.
  • 잘못된 모델 이름:
    • Azure 포털에서 해당 배포가 존재하는지 확인합니다.
    • 철자 및 대소문자 구분(대소문자 민감)을 확인합니다.
    • 배포가 활성 상태이며 사용 가능한지 확인합니다.
  • 네트워크 문제:
    • 인터넷 연결 상태를 확인합니다.
    • 방화벽 설정에서 아웃바운드 HTTPS 연결이 허용되는지 확인합니다.
    • Vantage 인스턴스에서 LLM 공급자에 연결할 수 있는지 확인합니다.
  • 쿼터 또는 권한 문제:
    • 구독이 활성 상태인지 확인합니다.
    • 속도 제한(rate limit)을 초과하지 않았는지 확인합니다.
    • API 키에 필요한 권한이 있는지 확인합니다.

​
테스트에서는 연결이 성공하지만 Skill에서는 실패함

문제: 테스트는 성공하지만 Skill에서 해당 연결을 사용할 수 없습니다. 해결 방법:
  • Skill Designer 페이지를 새로 고칩니다.
  • 스킬 구성에서 연결을 다시 선택합니다.
  • 스킬의 오류 로그에서 구체적인 메시지를 확인합니다.
  • 스킬이 게시됨 상태이고 초안 모드가 아닌지 확인합니다.

​
예상보다 높은 API 비용

문제: LLM 공급자로부터 예상치 못한 요금이 청구됨. 해결 방법:
  • 어떤 Skill이 해당 연결을 사용 중인지 검토하십시오.
  • 처리량과 처리 빈도를 확인하십시오.
  • 요청 속도 제한(rate limiting) 구현을 고려하십시오.
  • 공급자의 대시보드를 통해 사용량을 모니터링하십시오.
  • 테스트에는 더 비용 효율적인 모델을 사용하십시오.

​
모범 사례

​
보안

  • 평문 이메일이나 채팅에서 API 키를 절대 공유하지 마십시오.
  • 자격 증명을 정기적으로 변경하십시오 (90일마다를 권장).
  • 개발과 운영 환경에 별도의 연결을 사용하십시오.
  • LLM 제공자의 대시보드에서 액세스 로그를 모니터링하십시오.
  • 최소 권한 원칙을 적용하여 필요한 권한만 부여하십시오.
  • 비상 상황에 대비해 백업 자격 증명을 안전하게 보관하십시오.

​
연결 관리

  • 목적이나 환경을 쉽게 알 수 있는 의미 있는 이름을 사용하세요.
    • 좋은 예: “Production GPT-4”, “Development Microsoft Foundry”
    • 피해야 할 예: “Connection 1”, “Test”
  • 각 연결의 용도를 설명란에 명확히 기록하세요.
    • 포함할 내용: 환경, 사용 사례, 소유자 연락처
    • 제외할 내용: 자격 증명, 민감한 정보
  • 문제를 조기에 발견할 수 있도록 정기적으로 연결을 테스트하세요.
    • 매월 검토 일정을 설정합니다.
    • 자격 증명이 변경된 후에는 반드시 테스트합니다.
  • 어떤 연결이 실제로 사용 중인지 파악하기 위해 사용 현황을 추적하세요.
    • “Used in Skills” 열을 검토합니다.
    • 사용하지 않는 연결은 보관하거나 삭제합니다.

​
비용 관리

  • 각 사용 사례에 적합한 모델을 선택합니다.
    • 간단한 작업에는 더 작고 빠른 모델을 사용합니다.
    • 복잡한 추출에는 고급 모델을 사용합니다.
  • 제공자가 지원하는 경우 요청 속도 제한(rate limiting)을 구현합니다.
    • 예기치 않은 비용 급증을 방지합니다.
    • 제어되지 않는 과다 처리로부터 보호합니다.
  • 사용 패턴을 모니터링합니다.
    • 제공자의 대시보드에서 청구 알림을 설정합니다.
    • 월별 비용과 사용량을 검토합니다.
  • Document Skill에서 프롬프트를 최적화합니다.
    • 효율적인 프롬프트는 토큰 사용량을 줄여 줍니다.
    • 최저 비용으로 최상의 결과를 얻도록 테스트하고 개선합니다.

​
워크플로 최적화

  • 유사한 문서 유형을 함께 그룹화하세요
  • 사용 사례에 적합한 Document skill을 구성하세요
  • 운영 환경에서 사용하기 전에 샘플 문서로 테스트하세요
  • 팀이 참조할 수 있도록 워크플로를 문서화하세요

​
연결 유형 이해

​
OpenAI ChatGPT

적합한 경우:
  • 최신 OpenAI 모델에 직접 액세스해야 할 때
  • API 키만으로 간단하게 설정하고 싶을 때
  • 이미 OpenAI 플랫폼을 사용 중인 조직인 경우
유의 사항:
  • 데이터는 OpenAI 인프라에서 처리됨
  • OpenAI의 약관 및 데이터 정책이 적용됨
  • OpenAI 계정과 API 액세스 권한이 필요함

​
Microsoft Foundry

다음과 같은 경우에 가장 적합합니다:
  • Azure 인프라를 사용하는 엔터프라이즈 배포
  • 데이터 레지던시 제어가 필요한 조직
  • 다른 Azure 서비스와의 통합이 필요한 경우
  • 강화된 보안 및 규정 준수 기능이 필요한 경우
  • Azure를 통해 OpenAI 및 기타 AI 모델에 액세스해야 하는 경우
  • 기존에 Azure 구독을 보유한 조직
고려 사항:
  • Azure 구독 및 Microsoft Foundry 환경 구성이 필요함
  • 더 많은 구성 필요(전체 경로를 포함한 엔드포인트 URL, 모델 이름, API 버전)
  • 사용 가능한 모델이 OpenAI 직접 사용 시와 다를 수 있음
  • URL은 다음과 같이 전체 경로를 포함해야 함: /openai/deployments/[model-name]/chat/completions?api-version=...
  • 특화된 기능 및 커스텀 모델 호스팅을 제공할 수 있음

​
추가 자료

​
요약

다음을 모두 완료했습니다:
  • ✅ 구성 설정에 액세스했습니다
  • ✅ 연결 관리로 이동했습니다
  • ✅ 새 LLM 연결을 추가했습니다
  • ✅ 연결 자격 증명 및 설정을 구성했습니다
  • ✅ 연결을 테스트했습니다
  • ✅ 연결을 관리하는 방법을 익혔습니다
이제 LLM 연결이 ABBYY Vantage Document Skills에서 고급 AI 기능을 구현할 준비가 되었습니다!