Model Router
ในหน้านี้
Model Router ช่วยให้สถานที่ของคุณเข้าถึงแคตตาล็อกโมเดล AI ชั้นนำแบบชำระเงินล่วงหน้าผ่านเอนด์พอยต์เดียวที่เข้ากันได้กับ OpenAI AI Agents ของ Performance Hub จะเชื่อมต่อโดยอัตโนมัติโดยไม่ต้องตั้งค่า Workflows ก็เชื่อมต่อได้เช่นกัน และคุณสามารถจัดเตรียมคีย์ API ของคุณเองเพื่อนำโมเดลเดียวกันไปใช้กับซอฟต์แวร์ของบุคคลที่สามหรือซอฟต์แวร์ที่พัฒนาขึ้นเอง เช่น ผู้ช่วยการจอง แบบฟอร์มรับผู้ป่วยของคลินิก หรือแอปพนักงานต้อนรับของโรงแรม คุณเติมยอดคงเหลือเป็น USD ตั้งขีดจำกัดค่าใช้จ่าย และติดตามทุกคำขอแบบเรียลไทม์ ทั้งหมดนี้จากที่เดียว
ข้อมูลอ้างอิงโดยย่อ
ตำแหน่งที่พบ: เมนูหลัก → Model Router (สถานที่ที่ใช้ Technology Stack) โมดูลนี้อยู่ในกลุ่ม AI Modules & Agents ของเมนูหลัก
ผู้ที่เข้าถึงได้: Organisation Administrator เท่านั้น (สถานที่ที่ใช้ Technology Stack)
วัตถุประสงค์: ซื้อการประมวลผล AI ด้วยยอดคงเหลือแบบชำระเงินล่วงหน้า: จัดการคีย์ API ขีดจำกัดค่าใช้จ่าย การเติมเงินอัตโนมัติ และการใช้งาน
องค์ประกอบทำงานร่วมกันอย่างไร
- สถานที่ของคุณมียอดคงเหลือแบบชำระเงินล่วงหน้าเป็น USD คุณเติมเงินด้วยบัตรสำหรับเรียกเก็บเงินที่บันทึกไว้ (ด้วยตนเองหรือโดยอัตโนมัติ) และทุกคำขอ AI จะหักจากยอดคงเหลือตามราคาของโมเดลที่ให้บริการคำขอนั้น
- แคตตาล็อกโมเดลครอบคลุมโมเดลจากผู้ให้บริการหลายราย โมเดลทั้งหมดเปิดใช้งานโดยค่าเริ่มต้น คุณสามารถเปิดหรือปิดแต่ละโมเดลสำหรับสถานที่ของคุณ และจำกัดเพิ่มเติมแยกตามคีย์ API หรือตามบริการที่เชื่อมต่อได้
- มีสองวิธีในการใช้งานโมเดล:
- Connected Services — อุปกรณ์ตัวแทน AI ที่จับคู่แล้วจะเชื่อมต่อโดยอัตโนมัติโดยไม่ต้องใช้คีย์ API และ Workflows ก็เชื่อมต่อได้เช่นกัน
- คีย์ API ของคุณเอง — จัดเตรียมคีย์และชี้ SDK หรือเครื่องมือใดก็ได้ที่เข้ากันได้กับ OpenAI ไปยังเอนด์พอยต์ของ Performance Hub
- ขีดจำกัดค่าใช้จ่าย (รายวัน รายเดือน และเพดานสูงสุดตลอดอายุการใช้งาน) ช่วยให้คุณจำกัดค่าใช้จ่ายได้โดยไม่ขึ้นกับยอดคงเหลือ ครอบคลุมทุกคีย์และทุกบริการที่เชื่อมต่อ และยังตั้งขีดจำกัดที่เข้มงวดขึ้นแยกตามคีย์และตามบริการเพิ่มเติมได้
- ทุกคำขอจะถูกบันทึกไว้ ได้แก่ โมเดล โทเค็น ค่าใช้จ่าย เวลาแฝง และสถานะ ในการวิเคราะห์ Activity และแท็บ Logs เนื้อหาของพรอมต์และการตอบกลับจะไม่ถูกจัดเก็บ
ส่วนหลัก
โมดูลนี้มีสี่แท็บและส่วน Settings (ไอคอนรูปเฟือง ที่มุมขวาบน):
| ส่วน | สิ่งที่คุณทำในส่วนนี้ |
|---|---|
| Overview | แดชบอร์ดแสดงยอดคงเหลือที่ใช้ได้ ค่าใช้จ่ายวันนี้และเดือนนี้ ระยะเวลาที่ยอดคงเหลือจะใช้ได้โดยประมาณ แผนภูมิค่าใช้จ่ายและคำขอ ภาพรวมความน่าเชื่อถือ การใช้งบประมาณ และเอเจนต์และคีย์อันดับต้น ๆ |
| Activity | การวิเคราะห์การใช้งานเชิงลึกด้วยสี่มุมมอง (Overview, Trends, Performance, Explore) ตัวกรองตามคีย์/เอเจนต์และโมเดล และการส่งออก CSV |
| Budgets & Limits | แท็บย่อยสองแท็บ ได้แก่ Spend Limits (เพดานรายวัน/รายเดือน/ตลอดอายุการใช้งานระดับบัญชีและขีดจำกัดแยกตามบริการ) และ Balance & Top-up (การเติมเงินด้วยตนเอง การเติมเงินอัตโนมัติ ประวัติธุรกรรม และการใช้งานรายเดือน) |
| Logs | ร่องรอยการตรวจสอบรายคำขอ ได้แก่ โมเดล โทเค็น ค่าใช้จ่าย ความเร็ว และสถานะของทุกคำขอ พร้อมการรีเฟรชแบบสด การค้นหา ตัวกรอง และลิ้นชักรายละเอียด |
| Settings (เฟือง) | Models (เปิด/ปิดโมเดลในแคตตาล็อก แก้ไข Auto Router) Service Access & API Keys (บริการที่เชื่อมต่อ คีย์ API และรายละเอียดการเชื่อมต่อ API) และ Guardrails (การป้องกันเนื้อหาและตัวกรองเนื้อหาแบบกำหนดเอง) |
แดชบอร์ด Overview
แท็บ Overview สรุปข้อมูลบัญชีของคุณในแวบเดียว
รูปที่ 1: แถบสถิติ (Available balance, Spent today, Spent this month และ Estimated runway) และชิปข้อมูลโดยย่อสำหรับการเติมเงินอัตโนมัติ ขีดจำกัด โมเดล และบริการที่เชื่อมต่อ
ใต้แถบสถิติ ชิปต่าง ๆ จะสรุปการเติมเงินอัตโนมัติ ขีดจำกัดค่าใช้จ่าย โมเดลที่เปิดใช้งาน และจำนวนบริการที่เชื่อมต่อซึ่งออนไลน์อยู่ ชิป Low balance จะปรากฏข้าง ๆ เมื่อยอดคงเหลือเท่ากับหรือต่ำกว่าเกณฑ์การเติมเงินอัตโนมัติ
- Available balance — เครดิตแบบชำระเงินล่วงหน้าที่เหลืออยู่ในขณะนี้
- Spent today / Spent this month — ค่าใช้งานในวันปัจจุบันและเดือนปฏิทินปัจจุบัน (ตามเวลาท้องถิ่นของสถานที่)
- Estimated runway — "Rough estimate based on average daily spend this month. Top up or enable auto top-up to extend it."
รูปที่ 2: Spend over time (14 วันล่าสุด พร้อมการเปลี่ยนแปลงเทียบกับช่วงก่อนหน้า) และ Spend by model
รูปที่ 3: Requests over time แยกตามโมเดล และ Reliability & speed พร้อมอัตราข้อผิดพลาด เวลาแฝง p95 และเวลาแฝงตามช่วงเวลา
รูปที่ 4: Budget usage และ Top agents & keys ที่จัดอันดับตามค่าใช้จ่าย
รูปที่ 5: ฮีตแมป Activity: การใช้งานตลอดหนึ่งปี สลับดูได้ระหว่าง Tokens, Spend และ Requests พร้อมสถิติช่วงต่อเนื่องที่ยาวที่สุด และค่าเฉลี่ยรายวันและรายสัปดาห์
คู่มือเอกสาร
แนวคิด
- วิธีการทำงาน — แบบจำลองเชิงแนวคิด: ยอดคงเหลือแบบชำระเงินล่วงหน้าเทียบกับขีดจำกัดค่าใช้จ่าย ช่องทางการเข้าถึงสองแบบ วิธีกำหนดราคาคำขอ และอภิธานศัพท์ฉบับเต็ม
เริ่มต้นใช้งาน
- เริ่มต้นใช้งาน — การเปิดใช้งานโมดูล การเติมเงินครั้งแรก และคำขอแรกของคุณ
- การเชื่อมต่อแอปพลิเคชันของคุณ — คู่มือเริ่มต้นอย่างรวดเร็วสำหรับซอฟต์แวร์ของคุณเอง: base URL การยืนยันตัวตน และตัวอย่าง curl / Python / TypeScript
การจัดการการเข้าถึง
- Models — แคตตาล็อก การเปิดและปิดโมเดล ค่าที่ตั้งไว้ล่วงหน้าแบบด่วน และ Auto Router
- คีย์ API — การสร้างคีย์ การแสดงข้อมูลลับเพียงครั้งเดียว เพดานค่าใช้จ่ายแยกตามคีย์ ขีดจำกัดอัตรา การจำกัดโมเดล และวงจรการหมุนเวียน/เพิกถอน/ลบคีย์
- Connected Services — วิธีที่ AI Agents และ Workflows ที่จับคู่แล้วเชื่อมต่อ และวิธีจำกัดขอบเขตของแต่ละรายการ
- Guardrails — การป้องกันเนื้อหา (การปิดบัง PII การปกปิดข้อมูลลับ การป้องกัน prompt injection) และตัวกรองเนื้อหาแบบกำหนดเอง
การเงินและการติดตาม
- งบประมาณและการเติมเงิน — ยอดคงเหลือ การเติมเงินด้วยตนเองและอัตโนมัติ ใบเสร็จ ประวัติธุรกรรม การใช้งานรายเดือน และขีดจำกัดค่าใช้จ่าย
- กิจกรรมและบันทึก — มุมมองการวิเคราะห์ การส่งออก CSV และบันทึกคำขอ
ข้อมูลอ้างอิง
- ข้อมูลอ้างอิง — การตั้งค่า ค่าเริ่มต้น ขีดจำกัด และการตอบกลับข้อผิดพลาดทั้งหมดในที่เดียว
- การแก้ไขปัญหา — วิธีแก้ไขตามอาการสำหรับคำขอที่ถูกบล็อก ปัญหาเกี่ยวกับคีย์ และคำถามเกี่ยวกับยอดคงเหลือ
- คำถามที่พบบ่อย — คำถามที่พบบ่อย
รายการตรวจสอบสำหรับการเริ่มต้นใช้งาน
ทำเครื่องหมายรายการที่เสร็จแล้วระหว่างดำเนินการ ความคืบหน้าของคุณจะถูกบันทึกไว้ในเบราว์เซอร์นี้ และคุณสามารถพิมพ์รายการได้
การเลือกสถานที่
โมดูลนี้กำหนดค่าแยกตามสถานที่ ใช้ตัวเลือกสถานที่ในแถบเครื่องมือหลักของ Performance Hub เพื่อเลือกสถานที่ที่คุณกำลังกำหนดค่า ระหว่างที่บริบทของสถานที่กำลังโหลด โมดูลจะแสดงข้อความ "Loading facility context…"