Model Router
Na tej stronie
Model Router zapewnia Twojemu obiektowi przedpłacony dostęp do katalogu czołowych modeli AI przez jeden punkt końcowy zgodny z OpenAI. Agenci AI w Performance Hub łączą się z nim automatycznie, bez żadnej konfiguracji, Workflows również mogą się z nim łączyć, a Ty możesz generować własne klucze API, aby korzystać z tych samych modeli w oprogramowaniu firm zewnętrznych lub własnym — asystencie rezerwacji, formularzu rejestracji pacjenta w przychodni czy aplikacji konsjerża hotelowego. Doładowujesz saldo w USD, ustawiasz limity wydatków i śledzisz każde żądanie w czasie rzeczywistym — wszystko w jednym miejscu.
Skrócone informacje
Gdzie to znaleźć: Menu główne → Model Router (obiekty Technology Stack). Moduł znajduje się w grupie AI Modules & Agents menu głównego.
Dla kogo: Tylko dla użytkowników z rolą Organisation Administrator (obiekty Technology Stack).
Cel: Zakup wnioskowania AI z przedpłaconego salda: zarządzanie kluczami API, limitami wydatków, automatycznym doładowaniem i wykorzystaniem.
Jak to wszystko się łączy
- Twój obiekt ma przedpłacone saldo w USD. Doładowujesz je zapisaną kartą płatniczą (ręcznie lub automatycznie), a każde żądanie AI pomniejsza saldo o cenę modelu, który je obsłużył.
- Katalog modeli obejmuje modele wielu dostawców. Wszystkie modele są domyślnie włączone; możesz włączać lub wyłączać poszczególne modele dla swojego obiektu i dodatkowo ograniczać je dla poszczególnych kluczy API lub połączonych usług.
- Istnieją dwa sposoby korzystania z modeli:
- Connected Services — sparowane urządzenia z agentem AI łączą się automatycznie, bez klucza API, a Workflows również mogą się połączyć.
- Własne klucze API — wygeneruj klucze i skieruj dowolny SDK lub narzędzie zgodne z OpenAI na punkt końcowy Performance Hub.
- Limity wydatków (dzienny, miesięczny i bezwzględny limit całkowity) pozwalają ograniczyć wydatki niezależnie od salda, dla wszystkich kluczy i połączonych usług — z możliwością ustawienia dodatkowo bardziej restrykcyjnych limitów dla poszczególnych kluczy i usług.
- Każde żądanie jest rejestrowane — model, tokeny, koszt, opóźnienie i stan — w analizach Activity i na karcie Logs. Treść promptów i odpowiedzi nigdy nie jest przechowywana.
Główne obszary
Moduł ma cztery karty oraz obszar Settings (ikona koła zębatego w prawym górnym rogu):
| Obszar | Co tam robisz |
|---|---|
| Overview | Panel: dostępne saldo, wydatki dzisiaj i w tym miesiącu, szacowany czas wystarczalności środków, wykresy wydatków i żądań, niezawodność w skrócie, wykorzystanie budżetu oraz najaktywniejsi agenci i klucze. |
| Activity | Szczegółowa analityka wykorzystania z czterema widokami (Overview, Trends, Performance, Explore), filtrami według klucza/agenta i modelu oraz eksportem CSV. |
| Budgets & Limits | Dwie karty podrzędne: Spend Limits (limity dzienne/miesięczne/całkowite dla całego konta i limity dla poszczególnych usług) oraz Balance & Top-up (ręczne doładowania, automatyczne doładowanie, historia transakcji i miesięczne wykorzystanie). |
| Logs | Ścieżka audytu dla każdego żądania: model, tokeny, koszt, szybkość i stan każdego żądania, z odświeżaniem na żywo, wyszukiwaniem, filtrami i panelem szczegółów. |
| Settings (koło zębate) | Models (włączanie/wyłączanie modeli z katalogu, edycja Auto Router), Service Access & API Keys (połączone usługi, klucze API i szczegóły połączenia z API) oraz Guardrails (zabezpieczenia treści i niestandardowe filtry treści). |
Panel Overview
Karta Overview pokazuje podsumowanie Twojego konta w jednym miejscu.
Rysunek 1: Pasek statystyk (Available balance, Spent today, Spent this month i Estimated runway) oraz szybkie wskaźniki automatycznego doładowania, limitów, modeli i połączonych usług
Pod paskiem statystyk znajdują się wskaźniki podsumowujące automatyczne doładowanie, limity wydatków, włączone modele i liczbę połączonych usług, które są online. Obok nich pojawia się wskaźnik Low balance, gdy saldo jest równe progowi automatycznego doładowania lub niższe.
- Available balance — pozostały w tej chwili przedpłacony kredyt.
- Spent today / Spent this month — opłaty za wykorzystanie w bieżącym dniu i miesiącu kalendarzowym (czas lokalny obiektu).
- Estimated runway — "Rough estimate based on average daily spend this month. Top up or enable auto top-up to extend it."
Rysunek 2: Spend over time (ostatnie 14 dni wraz ze zmianą względem poprzedniego okresu) i Spend by model
Rysunek 3: Requests over time według modelu oraz Reliability & speed ze wskaźnikiem błędów, opóźnieniem p95 i opóźnieniem w czasie
Rysunek 4: Budget usage oraz Top agents & keys uszeregowane według wydatków
Rysunek 5: Mapa cieplna Activity: rok wykorzystania z możliwością przełączania między Tokens, Spend i Requests, wraz z najdłuższą serią oraz średnimi dziennymi i tygodniowymi
Przewodnik po dokumentacji
Pojęcia
- Jak to działa — model koncepcyjny: przedpłacone saldo a limity wydatków, dwie ścieżki dostępu, sposób wyceny żądań i pełny słowniczek.
Pierwsze kroki
- Pierwsze kroki — włączenie modułu, pierwsze doładowanie i pierwsze żądanie.
- Łączenie aplikacji — szybki start dla Twojego własnego oprogramowania: bazowy adres URL, uwierzytelnianie oraz przykłady w curl / Python / TypeScript.
Zarządzanie dostępem
- Models — katalog, włączanie i wyłączanie modeli, szybkie ustawienia wstępne i Auto Router.
- Klucze API — tworzenie kluczy, jednorazowe wyświetlenie sekretu, limity wydatków dla poszczególnych kluczy, limity liczby żądań, ograniczenia modeli oraz cykl życia: rotacja, unieważnienie i usunięcie.
- Connected Services — jak łączą się sparowani agenci AI i Workflows oraz jak ograniczyć każde z tych połączeń.
- Guardrails — zabezpieczenia treści (maskowanie danych osobowych, usuwanie sekretów, ochrona przed wstrzykiwaniem promptów) i niestandardowe filtry treści.
Finanse i monitorowanie
- Budżety i doładowania — saldo, ręczne i automatyczne doładowania, potwierdzenia płatności, historia transakcji, miesięczne wykorzystanie i limity wydatków.
- Aktywność i dzienniki — widoki analityczne, eksport CSV i dziennik żądań.
Informacje referencyjne
- Informacje referencyjne — wszystkie ustawienia, wartości domyślne, limity i odpowiedzi błędów w jednym miejscu.
- Rozwiązywanie problemów — rozwiązania według objawów dla zablokowanych żądań, problemów z kluczami i pytań dotyczących salda.
- Często zadawane pytania — FAQ.
Lista kontrolna na początek
Zaznaczaj wykonane pozycje na bieżąco — postęp jest zapisywany w tej przeglądarce, a listę można wydrukować.
Wybieranie obiektu
Moduł konfiguruje się osobno dla każdego obiektu. Wybierz konfigurowany obiekt za pomocą selektora obiektu na głównym pasku narzędzi Performance Hub. Podczas ładowania kontekstu obiektu moduł wyświetla komunikat "Loading facility context…".