Model Router
בדף זה
Model Router מעניק למתקן שלכם גישה בתשלום מראש לקטלוג של מודלי בינה מלאכותית מובילים דרך נקודת קצה אחת התואמת ל-OpenAI. AI Agents של Performance Hub מתחברים אליו אוטומטית ללא שום הגדרה, גם Workflows יכולים להתחבר, ואתם יכולים להנפיק מפתחות API משלכם כדי לחבר את אותם מודלים לתוכנה של צד שלישי או לתוכנה פנימית — עוזר הזמנות, טופס קליטה במרפאה או אפליקציית קונסיירז׳ של מלון. אתם טוענים יתרה בדולר אמריקאי (USD), מגדירים מגבלות הוצאה ועוקבים אחר כל בקשה בזמן אמת — הכול ממקום אחד.
מדריך מהיר
איפה למצוא: התפריט הראשי → Model Router (מתקני Technology Stack). המודול נמצא בקבוצה AI Modules & Agents בתפריט הראשי.
מי יכול לגשת: Organisation Administrator בלבד (מתקני Technology Stack).
מטרה: רכישת הסקת בינה מלאכותית מיתרה בתשלום מראש: ניהול מפתחות API, מגבלות הוצאה, טעינה אוטומטית ושימוש.
איך הכול משתלב
- למתקן שלכם יש יתרה בתשלום מראש בדולר אמריקאי (USD). אתם טוענים אותה בכרטיס החיוב השמור שלכם (ידנית או אוטומטית), וכל בקשת בינה מלאכותית מנכה מהיתרה לפי המחיר של המודל ששירת אותה.
- קטלוג המודלים כולל מודלים מספקים רבים. כל המודלים מופעלים כברירת מחדל; תוכלו להפעיל או לכבות מודלים בודדים עבור המתקן שלכם, ולהגביל אותם עוד יותר לכל מפתח API או לכל שירות מחובר.
- יש שתי דרכים לצרוך מודלים:
- Connected Services — מכשירי סוכן בינה מלאכותית מצומדים מתחברים אוטומטית, ללא צורך במפתח API, וגם Workflows יכולים להתחבר.
- מפתחות API משלכם — הנפיקו מפתחות והפנו כל SDK או כלי התואם ל-OpenAI לנקודת הקצה של Performance Hub.
- מגבלות הוצאה (יומית, חודשית ותקרה קשיחה לכל התקופה) מאפשרות לכם להגביל את ההוצאה ללא תלות ביתרה, בכל המפתחות והשירותים המחוברים — עם מגבלות הדוקות יותר לכל מפתח ולכל שירות שזמינות מעבר לכך.
- כל בקשה מתועדת — מודל, טוקנים, עלות, זמן השהיה וסטטוס — בניתוח הנתונים Activity ובכרטיסייה Logs. תוכן ההנחיות והתגובות לעולם אינו נשמר.
האזורים העיקריים
למודול יש ארבע כרטיסיות ואזור הגדרות (סמל גלגל השיניים, בפינה הימנית העליונה):
| אזור | מה עושים בו |
|---|---|
| Overview | לוח המחוונים: היתרה הזמינה, ההוצאה היום והחודש, משך הפעולה המשוער, תרשימי הוצאות ובקשות, אמינות במבט אחד, ניצול התקציב, והסוכנים והמפתחות המובילים. |
| Activity | ניתוח שימוש מעמיק עם ארבע תצוגות (Overview, Trends, Performance, Explore), מסננים לפי מפתח/סוכן ומודל, וייצוא CSV. |
| Budgets & Limits | שתי כרטיסיות משנה: Spend Limits (תקרות יומיות/חודשיות/לכל התקופה בכל החשבון ומגבלות לכל שירות) ו-Balance & Top-up (טעינות ידניות, טעינה אוטומטית, היסטוריית העסקאות והשימוש החודשי). |
| Logs | תיעוד הביקורת לכל בקשה: המודל, הטוקנים, העלות, המהירות והסטטוס של כל בקשה, עם רענון חי, חיפוש, מסננים ומגירת פרטים. |
| Settings (גלגל שיניים) | Models (הפעלה/השבתה של מודלים בקטלוג, עריכת ה-Auto Router), Service Access & API Keys (שירותים מחוברים, מפתחות API ופרטי החיבור ל-API), ו-Guardrails (הגנות תוכן ומסנני תוכן מותאמים אישית). |
לוח המחוונים Overview
הכרטיסייה Overview מסכמת את החשבון שלכם במבט אחד.
איור 1: רצועת הנתונים (Available balance, Spent today, Spent this month ו-Estimated runway) ושבבי הסקירה המהירה של טעינה אוטומטית, מגבלות, מודלים ושירותים מחוברים
מתחת לרצועת הנתונים, שבבים מסכמים את הטעינה האוטומטית, מגבלות ההוצאה, המודלים המופעלים וכמה שירותים מחוברים מקוונים. שבב Low balance מופיע לצדם כשהיתרה נמצאת בסף הטעינה האוטומטית או מתחתיו.
- Available balance — הקרדיט ששולם מראש ונותר כרגע.
- Spent today / Spent this month — חיובי השימוש ביום הנוכחי ובחודש הקלנדרי הנוכחי (לפי השעון המקומי של המתקן).
- Estimated runway — "Rough estimate based on average daily spend this month. Top up or enable auto top-up to extend it."
איור 2: Spend over time (14 הימים האחרונים, עם השינוי לעומת התקופה הקודמת) ו-Spend by model
איור 3: Requests over time לפי מודל, ו-Reliability & speed עם שיעור השגיאות, זמן השהיה p95 וזמן השהיה לאורך זמן
איור 4: Budget usage ו-Top agents & keys מדורגים לפי הוצאה
איור 5: מפת החום Activity: שנה של שימוש, עם מעבר בין Tokens, Spend ו-Requests, עם הרצף הארוך ביותר והממוצעים היומיים והשבועיים
מדריך התיעוד
מושגים
- איך זה עובד — המודל הרעיוני: יתרה בתשלום מראש לעומת מגבלות הוצאה, שני נתיבי הגישה, איך בקשות מתומחרות, ומילון המונחים המלא.
תחילת העבודה
- תחילת העבודה — הפעלת המודול, הטעינה הראשונה והבקשה הראשונה שלכם.
- חיבור האפליקציה שלכם — המדריך המהיר לתוכנה שלכם: כתובת URL בסיסית, אימות ודוגמאות curl / Python / TypeScript.
ניהול גישה
- Models — הקטלוג, הפעלה והשבתה של מודלים, הגדרות קבועות מראש מהירות וה-Auto Router.
- מפתחות API — יצירת מפתחות, הצגת הסוד החד-פעמית, תקרות הוצאה לכל מפתח, מגבלות קצב, הגבלות מודלים, ומחזור החיים של החלפה/שלילה/מחיקה.
- Connected Services — איך AI Agents מצומדים ו-Workflows מתחברים, ואיך להגביל כל אחד מהם.
- Guardrails — הגנות תוכן (מיסוך PII, הסתרת סודות, מגן מפני הזרקת הנחיות) ומסנני תוכן מותאמים אישית.
כסף וניטור
- תקציבים וטעינות — היתרה, טעינות ידניות ואוטומטיות, קבלות, היסטוריית העסקאות, השימוש החודשי ומגבלות ההוצאה.
- פעילות ויומנים — תצוגות ניתוח הנתונים, ייצוא CSV ויומן הבקשות.
מידע עזר
- מידע עזר — כל הגדרה, ברירת מחדל, מגבלה ותגובת שגיאה במקום אחד.
- פתרון בעיות — פתרונות לפי תסמין לבקשות חסומות, בעיות מפתחות ושאלות על היתרה.
- שאלות נפוצות — שאלות ותשובות.
רשימת משימות לתחילת העבודה
סמנו פריטים תוך כדי עבודה — ההתקדמות שלכם נשמרת בדפדפן הזה, ואפשר להדפיס את הרשימה.
בחירת מתקן
המודול מוגדר לכל מתקן בנפרד. השתמשו בבורר המתקנים בסרגל הכלים הראשי של Performance Hub כדי לבחור את המתקן שאתם מגדירים. בזמן שהקשר המתקן נטען, המודול מציג "Loading facility context…".