메인 콘텐츠로 건너뛰기

​
라우팅 동작 방식

YouRouter는 자동 라우팅과 수동 라우팅 두 가지 모드를 제공합니다. 동작은 vendor 요청 헤더로 제어됩니다.

​
기본 동작: 자동 라우팅(auto)

가능한 한 높은 안정성을 위해 자동 라우팅 사용을 권장합니다. vendor를 생략하거나 auto로 설정하면 이 모드가 됩니다. auto 모드에서 YouRouter는 요청한 모델의 가용성과 비용을 고려해 트래픽을 적절한 제공업체로 라우팅합니다. 예를 들어 gpt-4o를 요청했을 때 OpenAI에 지연이 있으면 Azure OpenAI 등 다른 제공업체로 끊김 없이 전환해 요청이 가능한 한 처리되도록 할 수 있습니다. 고가용이 중요한 프로덕션 앱에는 보통 가장 적합한 기본값입니다.

​
수동 라우팅: 제공업체 지정

특정 제공업체의 모델이나 전용 기능을 반드시 사용해야 한다면 수동으로 라우팅할 수 있습니다. 요청 헤더에 대상 제공업체의 vendor 값을 설정하면 됩니다. 예를 들어 gpt-4o가 반드시 Azure에서 처리되도록 하려면 vendor: azure를 보냅니다. 
from openai import OpenAI

client = OpenAI(
    api_key="your-api-key-here",
    base_url="https://api.yourouter.ai/v1"
)

response = client.chat.completions.create(
    model="gpt-4o",
    messages=[{"role": "user", "content": "Hello from Azure OpenAI!"}],
    extra_headers={"vendor": "azure"}
)

print(response.choices[0].message.content)

​
사용 가능한 제공업체

제공업체vendor 값
Anthropicanthropic
AWS Bedrockaws
Azure OpenAIazure
DeepSeekdeepseek
Googlegoogle
Mistral AImistral
OpenAIopenai
Volcenginevolcengine
xAIx

​
제로 컴플리션 보험

YouRouter 과금 정책은 요청이 성공하고 비어 있지 않은 결과를 반환했을 때만 비용이 발생한다는 것입니다. 500 같은 오류이거나 completion 토큰이 0인 경우에는 과금되지 않습니다. 이 보호는 모든 요청에 기본으로 적용됩니다.

​
권장 사항

  • 프로덕션에서는 auto 우선: 가용성이 중요한 앱은 기본적으로 auto를 사용해 자동 페일오버와 안정성을 활용하세요.
  • 명확히 필요할 때만 제공업체 고정: 특정 제공업체의 전용 모델·기능·호환 동작이 필요할 때만 vendor로 고정 라우팅을 사용하세요.
  • 제공업체 공식 문서 참고: 수동 라우팅으로 전용 기능을 쓸 때는 해당 제공업체 문서를 확인하세요. YouRouter는 요청 전달에 설명된 대로 이러한 매개변수를 상위로 그대로 전달할 수 있습니다.
더 많은 API 예시는 Chat Completions를 참고하세요.