약속: 가치 있는 결과에만 과금
실제 AI API 사용에서는 매 요청이 이상적인 결과를 내지 않습니다. 모델이 실패하거나 오류가 나고, 응답이 비어 있는 경우도 있습니다. 이런 상황까지 사용자가 비용을 부담해야 한다고 보지 않습니다. Zero Completion Insurance는 YouRouter가 제공하는 자동 과금 보호 계층입니다. 목표는 단순합니다. 요청이 성공했고 의미 있는 결과를 반환했을 때만 과금됩니다. 모든 계정에 기본으로 켜져 있으며 별도 설정이 필요하지 않습니다.보호가 적용되는 간단한 규칙
다음 두 경우에는 요청에 대해 과금하지 않습니다.- 빈 응답: 모델이 반환한 completion 토큰 수가 0이고,
finish_reason이 비어 있거나null이거나 오류·비정상 종료로 나타나는 경우. - 오류 응답: 상위 제공업체가
4xx또는5xx등 HTTP 오류를 반환한 경우. 여기에는 레이트 리밋, 서비스 장애, 잘못된 요청 등이 포함됩니다.
왜 중요한가
실제 애플리케이션을 만드는 개발자에게 이 보호는 다음과 같은 가치가 있습니다.- 모델 실험을 더 안심하고: 새 모델이나 복잡한 프롬프트를 시험할 때, 실패한 요청 때문에 비용이 불필요하게 늘어날까 걱정할 필요가 줄어듭니다.
- 사용자 입력에 더 유연하게: 불안정하거나 예측하기 어려운 입력 때문에 발생하는 실패 결과에 반복 과금될 부담이 줄어듭니다.
- 규모 확장을 더 안전하게: 대규모 동시 작업에서 상위 서비스가 가끔 실패해도 비용이 통제 불능으로 치솟지 않도록 돕습니다.