Cara ia berfungsi

Halaman ini menerangkan konsep di sebalik Model Router — bacanya sekali dan setiap halaman lain akan lebih mudah difahami.

Baki prabayar

Kemudahan anda memegang baki prabayar dalam USD. Baki ini hanya bergerak dalam dua arah:

• Naik apabila anda menambah nilai (secara manual, melalui tambah nilai automatik, atau melalui pelarasan yang dikreditkan ke akaun anda). Tambah nilai dipaparkan serta-merta.
• Turun apabila penggunaan terkumpul. Penggunaan dilaporkan secara langsung oleh perkhidmatan inferens dan diselaraskan dengan baki prabayar anda setiap 15 minit, jadi aktiviti yang sangat baharu mungkin mengambil masa beberapa minit untuk dipaparkan dalam Monthly usage. Sejarah transaksi hanya menyenaraikan tambah nilai dan pelarasan baki.

Baki ialah tembok kewangan: apabila ia mencecah sifar, permintaan inferens disekat dengan ralat insufficient credits sehingga anda menambah nilai. Penyenaraian model masih berfungsi dengan baki sifar, jadi integrasi boleh meneroka katalog sebelum anda membiayai akaun.

Katalog model

Katalog mengandungi model daripada banyak penyedia, setiap satu dikenakan harga bagi setiap sejuta token (input dan output dikenakan harga berasingan, ditunjukkan dalam tetapan Models). Semua model didayakan secara lalai untuk kemudahan anda; anda boleh:

• Menyahdayakan model untuk seluruh akaun dalam Tetapan → Models (sekurang-kurangnya satu model mesti kekal didayakan).
• Mengehadkan model bagi setiap kunci API atau setiap perkhidmatan yang disambungkan — senarai yang lebih ketat di atas set model yang didayakan untuk kemudahan.

Entri katalog khas, auto (Auto Router), tidak mempunyai harganya sendiri. Bagi setiap permintaan, ia memilih model terbaik secara automatik berdasarkan kerumitan gesaan, dan anda dibilkan mengikut kadar model yang dipilihnya. Lihat Model.

Dua cara menggunakan model

1. Perkhidmatan Bersambung

Peranti Ejen AI yang dipasangkan dengan kemudahan anda bersambung ke Model Router secara automatik — tiada kunci API yang pernah dimasukkan pada peranti — dan Workflows juga boleh bersambung. Setiap perkhidmatan yang disambungkan dipaparkan dalam Tetapan → Service Access & API Keys di bawah Connected Services dengan angka perbelanjaannya sendiri, dan anda boleh memberikan setiap satunya had perbelanjaan, sekatan model dan penggantian pagar keselamatannya sendiri. Lihat Connected Services.

2. Kunci API anda sendiri

Anda boleh menyediakan kunci API (bermula dengan phk_) supaya perisian dan sistem pihak ketiga yang menyokong BYOK (Bring Your Own Key) boleh bersambung ke model yang diterbitkan oleh Performance Hub. Titik akhir ini serasi dengan OpenAI — halakan mana-mana SDK atau alat OpenAI ke URL asas dan sahkan dengan kunci anda. Lihat Kunci API dan Menyambungkan aplikasi anda.

Kedua-dua laluan menggunakan baki yang sama, mematuhi had perbelanjaan seluruh akaun yang sama, dipaparkan dalam analitik Activity dan Logs yang sama, dan boleh dihadkan secara individu.

Baki berbanding had perbelanjaan

Ini ialah dua mekanisme yang berbeza, dan kedua-duanya terpakai:

Had perbelanjaan akaun hadir dalam tiga tetingkap — harian (ditetapkan semula setiap hari pada tengah malam, waktu tempatan kemudahan), bulanan (ditetapkan semula pada 1hb setiap bulan, waktu tempatan kemudahan), dan had keras seumur hayat (mengira perbelanjaan sejak penetapan semula manual yang terakhir; tidak pernah ditetapkan semula dengan sendirinya). Mana-mana gabungan boleh aktif serentak, dan had terpakai merentas semua kunci API dan perkhidmatan yang disambungkan secara keseluruhan. Baki prabayar masih terpakai di atasnya.

Had setiap kunci dan setiap perkhidmatan berfungsi dengan cara yang sama (harian, bulanan, seumur hayat) tetapi hanya mengira perbelanjaan kunci atau perkhidmatan tersebut. Apabila had dicapai, hanya kunci atau perkhidmatan itu disekat — bahagian lain kemudahan terus berfungsi.

Cara permintaan diproses

Apabila permintaan tiba di titik akhir, semakan dijalankan mengikut urutan ini:

1. Pengesahan — kunci API atau identiti perkhidmatan yang disambungkan yang sah. Bagi kunci API, kemudahan yang tidak mendayakan Model Router ditolak di sini dengan HTTP 403 ("Model Router is not enabled for this facility"). Penyenaraian model (GET /v1/models) dijawab sejurus selepas pengesahan, jadi ia terus berfungsi pada baki sifar.
2. Semakan kredit prabayar — baki tersedia mestilah melebihi $0 (bagi perkhidmatan yang disambungkan, Model Router juga mesti didayakan); jika tidak, permintaan ditolak dengan ralat insufficient credits (HTTP 402).
3. Had perbelanjaan akaun — jika had harian, bulanan atau seumur hayat dilanggar, permintaan ditolak dengan ralat budget exceeded (HTTP 402) yang menyatakan bila tetingkap ditetapkan semula, mengikut zon waktu kemudahan anda.
4. Had perbelanjaan setiap kunci / setiap perkhidmatan — semakan yang sama, berskop kepada kunci atau perkhidmatan pemanggil.
5. Semakan gesaan — perisai suntikan gesaan dan penapis kandungan tersuai anda dijalankan pada gesaan. Penapis block atau pengesanan suntikan menolak permintaan (HTTP 403, content policy violation); penapis redact menulis semula padanan kepada [REDACTED] dan membenarkan permintaan diteruskan.
6. Penghalaan model — auto diselesaikan kepada model konkrit oleh Auto Router (permintaan yang mengandungi imej dihantar ke model berkeupayaan visi yang anda benarkan). Model sandaran ditapis kepada model yang boleh digunakan oleh kunci, tetapan penaakulan anda digunakan apabila permintaan tidak menetapkan tetapannya sendiri, dan had output yang diminta dihadkan kepada apa yang disokong oleh model.
7. Inferens — penyamaran PII dan penyuntingan rahsia (apabila didayakan) digunakan oleh perkhidmatan inferens sebelum gesaan sampai ke model; permintaan kemudian dihantar ke penyedia model dan respons distrimkan kembali.

Had kadar (permintaan/min dan token/min, jika ditetapkan pada kunci atau perkhidmatan) dikuatkuasakan sepanjang proses; melebihinya mengembalikan HTTP 429.

Perkara yang direkodkan

Setiap permintaan dilog bersama metadatanya: masa, model (kedua-dua model yang diminta dan model yang dipilih oleh penghala), penyedia, token (gesaan, penyiapan, dicache, penaakulan), kos, kependaman, masa ke token pertama, kelajuan, status, serta kunci atau perkhidmatan pemanggil. Kandungan gesaan dan respons tidak pernah disimpan.

Angka penggunaan dan perbelanjaan yang ditunjukkan dalam modul ialah angka yang sama yang digunakan untuk penguatkuasaan, jadi apa yang anda lihat sebagai "limit reached" ialah tepat apa yang disekat.

Glosari