참조

이 페이지의 내용

Model Router의 전체 참조 표입니다. 개념과 작업 가이드는 개요부터 시작하십시오.

모듈

항목값
메뉴 위치메인 메뉴 → AI Modules & Agents 그룹의 Model Router
액세스 가능한 사용자Organisation Administrator만 가능(Technology Stack 시설).
범위시설별(메인 도구 모음에서 시설 선택)
통화USD

충전

설정값
최소 충전 금액$10
1회 최대 충전 금액$5,000
사전 설정$25, $50, $100, $250, $500, $1000
결제 수단시설에 저장된 청구 카드
잔액 반영 시점즉시
영수증충전별 영수증 번호 + 다운로드 가능한 PDF. 시설의 청구 담당자에게도 이메일로 발송

자동 충전

설정값
트리거잔액이 When balance is below 기준값 아래로 떨어질 때
충전 금액Top up by 금액(최소 $10)
확인 주기약 15분마다
실패 처리등록된 카드 없음, 카드 인증 필요, 카드 거절 시 배너 표시

사용량 및 대조

항목값
사용량 대조15분마다 선불 잔액과 대조. 달력 월(UTC)별로 묶어 Monthly usage에 표시
Available balance실시간: 충전 총액에서 실시간 지출을 뺀 금액(대조된 원장만 반영하는 것이 아님)
Estimated runway이번 달 일평균 지출을 잔액에 대비하여 예측. 0 days, 1 day, N days, 365+ days 또는 Not enough data로 표시

계정 지출 한도

한도초기화사전 설정
일별 한도매일 자정, 시설 현지 시간$25, $50, $100, $250
월별 한도매월 1일, 시설 현지 시간$50, $100, $250, $500, $1000
전체(하드 캡)수동 초기화만 가능(Reset hard cap: 카운터를 $0으로 초기화, 한도는 변경 없음, 종료된 기간은 초기화 기록에 저장)—

여러 한도를 조합하여 활성화할 수 있습니다. 한도는 모든 API 키와 연결된 서비스를 합산하여 적용되며, 선불 잔액도 그 위에 계속 적용됩니다. 한도를 초과하면 기간이 초기화될 때까지 요청이 402 budget_exceeded 오류로 차단됩니다.

키별/서비스별 설정

설정기본값참고
레이블비어 있음선택 사항. Activity와 Logs에서 사용량을 구분하는 데 사용
연결 유형(API 키만 해당)API keyAPI key는 API 키 목록에 남고, External agent는 Connected Services에 표시
일별 지출 한도끔매일 시작 시점에 초기화, 시설 시간대 기준
월별 지출 한도끔매월 1일에 초기화, 시설 시간대 기준
전체 기간 한도끔키나 서비스의 전체 기간 총지출. 초기화되지 않음
분당 요청 수무제한초과 시 HTTP 429 반환
분당 토큰 수무제한초과 시 HTTP 429 반환
모델 제한끔(시설에서 활성화된 모든 모델)선택한 모델만 이 키나 서비스에서 사용 가능
시설 Guardrails 재정의끔(시설 설정 상속)켜면 키나 서비스 자체의 선택("none" 포함)이 적용됨

API 키 상태 및 작업

상태의미
Active키가 작동합니다.
Provisioning…새 키를 설정하는 동안 잠시 표시됩니다.
Disabled키가 해지되었습니다(행이 흐리게 표시됨). 다시 활성화할 수 있습니다.
작업되돌릴 수 있음?효과
Edit—레이블, 한도, 모델, Guardrails를 변경합니다.
Rotate아니요새 비밀 키가 발급되며(한 번만 표시됨), 이전 비밀 키는 즉시 작동을 멈춥니다.
Revoke예(Re-activate)키가 즉시 비활성화됩니다.
Delete아니요키가 영구적으로 제거됩니다.

모델

항목값
기본값모든 카탈로그 모델 활성화
Automatically enable new models켜면 카탈로그에 새로 추가된 모델이 시설에서 자동으로 켜짐
제약 조건"At least one model must stay enabled."
빠른 사전 설정All models, Frontier, Western providers, Open weights, Budget(입력 가격 ≤ $1.00 / 1M tokens)
필터Status(Any/Enabled/Disabled), Region(United States/Europe/China), Capability(Vision, Audio, PDF input, Reasoning)
정렬Recommended, Name, Price, Context size — 오름차순/내림차순
모델별 정보컨텍스트 창, 100만 토큰당 입력 및 출력 가격, 기능 아이콘(텍스트, 이미지, 오디오, PDF), 추론 설정

자동 라우터

등급설명
Simple짧고 간단한 프롬프트
Medium일상적인 작업
Complex어렵고 여러 단계로 된 작업
Reasoning심층 추론 및 분석
  • 모델 ID: auto. Usage-priced: 라우터가 요청별로 선택한 모델의 요율로 청구됩니다.
  • 시설별 라우팅은 Edit routing으로 편집할 수 있습니다(활성화된 모델만 선택 가능, 모든 등급에 모델이 있어야 함). Reset to default를 누르면 표준 매핑이 복원됩니다.
  • Logs/Activity에는 결정된 모델이 표시되고, 요청 창에는 Requested model로 auto가 표시됩니다.

가드레일

가드레일일치 시 동작
PII masking프롬프트의 개인 데이터를 마스킹하고 요청은 계속 진행
Secret redaction프롬프트에서 키/토큰/비밀 정보를 제거하고 요청은 계속 진행
Prompt-injection shield요청 차단(403 content_policy_violation)
템플릿활성화 항목
None없음(기본값)
PII protectionPII masking
Secret redactionSecret redaction
Injection shieldPrompt-injection shield
Strict세 가지 모두

콘텐츠 필터

항목값
시설당 최대 필터 수25
최대 패턴 길이300자
작업Redact(일치 항목을 [REDACTED]로 변경) 또는 Block(403으로 거부)
패턴 안전성안전하지 않은 정규식(예: 치명적인 역추적이 발생하기 쉬운 패턴)과 300자를 초과하는 패턴은 삭제되어 적용되지 않음
상속시설 전체에 적용. Guardrails 재정의가 설정된 키와 서비스는 자체 목록 사용

거래 내역

거래 내역에는 충전과 잔액 조정만 나열됩니다. 사용량은 Monthly usage에 요약됩니다.

유형의미
Top-up잔액에 크레딧을 추가하는 카드 결제
Refund환불된 결제
Adjustment수동 잔액 정정
항목값
열Date, Type, Amount, Balance after, Receipt
영수증 일괄 다운로드행을 선택한 다음 Download receipts (n)

월별 사용량

항목값
그룹화달력 월(UTC). 현재 월은 Month to date로 표시
대조15분마다 선불 잔액과 대조
열Month, Usage, Deductions, Downloads
차감 유형Usage charge(대조된 추론 지출). 월을 펼치면 나열됨
월별 다운로드Download usage statement (PDF) 및 Download usage detail (CSV)
성격청구서가 아닌 사용 명세서. 카드 충전에만 영수증이 있음

활동 및 로그

항목값
Activity 보기Overview, Trends, Performance, Explore
범위 사전 설정Last 24 hours, Last 7 days, Last 30 days, Last 90 days, Year, All time, Custom range
Logs 범위 사전 설정Last 15 minutes, Last hour, Last 24 hours(기본값), Last 7 days, Last 30 days, 사용자 지정. Live 새로 고침 Off / 10s / 30s(기본값) / 60s
Explore 그룹화 옵션Model, API key / agent, Source, Provider, Status
원시 CSV 내보내기 한도25,000행
내보내기 유형원시 요청. 모델별 / 키 및 에이전트별 / 출처별 / 기간별 요약(요약은 하루 단위로 처리)
저장되는 콘텐츠메타데이터만 저장. 프롬프트나 응답 내용은 절대 저장하지 않음

API 오류 응답

기본 URL: Settings → Service Access & API Keys → Connecting to the API에 표시됩니다(예: https://app.performancehub.co/ai/v1). 오류는 OpenAI 형식 { "error": { "message", "type", "code" } }를 사용합니다.

HTTPtypecode의미
401invalid_request_errorinvalid_api_keyAPI 키가 없거나 연결된 서비스 자격 증명이 잘못됨
401invalid_request_error—알 수 없거나 해지된 API 키("Invalid API key")
402insufficient_quotainsufficient_credits선불 잔액 소진(연결된 서비스의 경우 시설이 활성화되지 않음)
402insufficient_quotabudget_exceeded지출 한도 도달(시설, 키 또는 연결된 서비스). 본문에 window, resetsAt, timezone, docsUrl 포함
403invalid_request_error—"Model Router is not enabled for this facility"(API 키) 또는 "Facility has no provisioned inference key"(키에 연결된 추론 키가 없음)
403invalid_request_errorcontent_policy_violation콘텐츠 필터 또는 Prompt-injection shield에 의해 차단됨
429——분당 요청 수 또는 분당 토큰 수 속도 제한 초과
502server_error—업스트림 추론 서비스를 사용할 수 없음(재시도)

API 키를 확인하는 중 예기치 않은 오류가 발생하면 HTTP 500 *"Something went wrong"*이 반환됩니다. 요청을 재시도하십시오.

GET /v1/models는 잔액이 0이어도 사용할 수 있습니다.