메인 콘텐츠로 건너뛰기
적용 대상: 다중 상위 모델 추론 또는 API 라우팅 기능을 사용하는 개발자와 고객.

​
1) 주요 용어

Vendor: 모델 추론을 실제로 수행하는 원본 제공업체입니다. Authorized Vendors: 당사가 연동·검토하여 라우팅에 참여하도록 허용한 제공업체입니다. Model: 실제로 호출할 수 있는 구체적인 모델 인스턴스입니다. Request: 단일 추론 또는 API 호출입니다. Vendor Status: 특정 상위 제공업체의 운영 상태(예: 정상, 성능 저하, 사용 불가)입니다.

​
2) 라우팅 모드와 가용성 경계

​
고정 Vendor 모드(vendor를 명시한 경우)

지정한 상위 제공업체가 사용 불가 상태인 경우, 당사는 해당 요청의 사용 불가 또는 실패에 대해 책임지지 않습니다.

​
자동 모드(vendor=auto, Authorized Vendors 간 라우팅)

해당 모델에 매핑된 모든 Authorized Vendor가 사용 불가인 경우, 당사는 그로 인한 사용 불가 또는 실패에 대해 책임지지 않습니다. 상태 판단: 상위 상태 페이지, 공식 공지, 당사 모니터링 지표(예: 오류율, 시간 초과율)를 종합하여 판단하며, 필요 시 양측 로그를 교차 검증할 수 있습니다.

​
3) 응답 헤더 검증(stream:false에만 해당)

비스트리밍 응답(stream:false)인 경우, 당사는 이번 요청에 실제로 사용된 상위와 계정을 확인할 수 있도록 검증용 응답 헤더를 추가합니다.
  • X-Vendor-Messages-Id: 마스킹하지 않으며 상위의 messages_id와 동일합니다. 정밀 대조 및 추적에 사용됩니다. 자격 증명이 아니며 인증이나 재호출에 사용할 수 없습니다.
  • X-Vendor-Api-Key: 실제 사용된 상위 api_key를 마스킹하거나 단방향 처리한 값으로, 검증 또는 감사 전용이며 호출에 사용할 수 없습니다.
stream:true 스트리밍 요청의 경우 이러한 응답 헤더가 반환되지 않거나 비어 있을 수 있습니다. 이는 위반이나 모델 불일치를 의미하지 않습니다. 스트리밍 요청을 검증해야 하는 경우 요청 ID를 제공해 주시면, 당사는 서버 측 라우팅 로그와 상위 자격 증명을 바탕으로 감사합니다.

​
보안 및 보존 정책

당사는 다음 데이터만 3일간 보존합니다.
  • 내부 요청 ID
  • 위 검증 응답 헤더
당사는 원본 상위 api_key를 보존하지 않으며, 로그에는 마스킹되거나 단방향 처리된 형태만 나타납니다. X-Vendor-Messages-Id는 민감 정보가 아니며 인증이나 재호출에 사용할 수 없습니다. 호출 체인에 프록시나 CDN을 사용하는 경우 X-Vendor-* 응답 헤더가 제거되거나 변경되지 않도록 하십시오.

​
비스트리밍 응답 예시

HTTP/1.1 200 OK
Content-Type: application/json
X-Vendor-Messages-Id: msg_7f8e3aa2b9c14d23
X-Vendor-Api-Key: vk_live_****_1a2b_hash_9f12

{"id":"req_123","vendor":"acme","model":"model-x","output":"..."}

​
4) 모델 일관성 및 불일치 처리

일관성 요구사항: 응답의 vendor 필드 또는 동등한 메타데이터는 요청을 실제로 실행한 상위와 일치해야 합니다.

​
불일치로 간주되는 경우

다음 중 하나라도 해당하면 모델 또는 상위 불일치 문제로 간주할 수 있습니다.
  • 응답의 vendor 값이 요청을 실제로 실행한 상위와 일치하지 않는 경우.
  • stream:false 요청에 대해 검증 응답 헤더, 당사 라우팅 로그 및 상위 자격 증명이 대응되지 않고, 사전 서면 승인된 예외가 없는 경우.

​
처리 및 보상

모델 불일치가 확인되면 해당 요청 요금의 2배를 보상합니다. 기본적으로 크레딧 환급 또는 청구서 공제로 처리하며, 계약 또는 서면 합의에 따라 약정된 방식으로 처리할 수도 있습니다. 증거 및 처리 절차: 요청 ID, 타임스탬프 및 원본 응답 본문을 제공해 주십시오. 가능하면 응답 헤더도 함께 제공해 주십시오. 당사는 검증 응답 헤더, 서버 측 라우팅 로그 및 상위 자격 증명 또는 청구서를 바탕으로 검증합니다. 비스트리밍에서 응답 헤더 누락 또는 이상: 상위 제한, 유지보수 또는 일시적 장애로 응답 헤더가 없는 경우, 당사는 상위 영수 ID, 청구 기록, 서명 증명 또는 서버 로그 등 동등한 증거를 제공합니다. 합리적인 기간 내에 동등한 증거를 제공할 수 없고 귀하가 제공한 자료가 완전한 경우, 해당 사례는 불일치로 간주되어 2배 보상이 적용될 수 있습니다.

​
5) 일반적인 호출

​
고정 Vendor

curl https://api.yourouter.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -H "vendor: openai" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Hello from OpenAI!"}]
  }'

​
자동 라우팅

curl https://api.yourouter.ai/v1/chat/completions \
  -H "Authorization: Bearer YOUR_API_KEY" \
  -H "Content-Type: application/json" \
  -H "vendor: auto" \
  -d '{
    "model": "gpt-4o",
    "messages": [{"role": "user", "content": "Hello from OpenAI!"}]
  }'

​
6) 자주 묻는 질문

질: 스트리밍 응답은 어떻게 검증하나요? 답: stream:true에는 검증 응답 헤더가 포함되지 않습니다. 요청 ID를 들고 지원팀에 연락해 주시면 라우팅 로그와 상위 자격 증명을 바탕으로 감사합니다. 질: 상위가 다운되면 항상 책임지지 않나요? 답: 그렇지 않습니다. 고정 Vendor 모드에서 지정한 상위 자체가 사용 불가인 경우, 당사는 해당 요청의 사용 불가에 대해 책임지지 않습니다. 자동 모드에서는 해당 모델에 매핑된 모든 Authorized Vendor가 사용 불가일 때만 당사는 해당 사용 불가에 대해 책임지지 않습니다. 질: X-Vendor-Messages-Id를 노출하면 민감 정보가 유출되나요? 답: 아니요. 추적 및 대조용 식별자일 뿐 자격 증명이 아닙니다. X-Vendor-Api-Key는 이미 비가역적으로 마스킹 처리되었습니다.