Mô hình

Trang Models (Settings bánh răng → Models) là danh mục mô hình của cơ sở bạn. "Turn models on or off for this account. All models are enabled by default. Individual keys and agents can be restricted further."

Ở đầu trang, công tắc Automatically enable new models quyết định điều gì xảy ra khi danh mục được mở rộng: "When a new model is added to the catalogue, turn it on for this account automatically. Turn this off to review new models yourself before they can be used."

Để biết giá hiện tại của mọi mô hình, hãy xem Model Catalog, và để so sánh các mô hình về khả năng và giá trị, hãy xem Model Rankings.

Hình 1: Available models: Automatically enable new models, các thiết lập sẵn nhanh, bộ lọc và thẻ Auto Router ở đầu danh sách

Danh sách mô hình

Các mô hình được nhóm theo nhà cung cấp, mỗi nhóm hiển thị huy hiệu khu vực (ví dụ US) và số mô hình đã bật (ví dụ 7/7); phần đầu danh sách hiển thị tổng số (ví dụ 117 / 117 enabled). Mỗi hàng mô hình hiển thị:

• ID mô hình (ví dụ anthropic/claude-sonnet-4-5)
• Nút Copy model ID bên cạnh ID
• Kích thước cửa sổ ngữ cảnh (ví dụ 200K context, 1M context)
• Giá theo triệu token, đầu vào và đầu ra riêng biệt (ví dụ $3.15 in · $15.75 out / 1M tokens)
• Biểu tượng khả năng cho biết loại dữ liệu mà mô hình chấp nhận: văn bản, hình ảnh, âm thanh và PDF (di chuột lên biểu tượng để xem ý nghĩa, ví dụ "Supports image input")
• Cài đặt suy luận (ví dụ Reasoning: Default), hoặc huy hiệu No reasoning đối với các mô hình không nhận cài đặt suy luận
• Công tắc bật/tắt

Hình 2: Một nhóm nhà cung cấp với kích thước ngữ cảnh, giá, cài đặt suy luận và công tắc của từng mô hình

Bật hoặc tắt mô hình, sau đó nhấp vào Save changes. "At least one model must stay enabled." Mỗi nhóm nhà cung cấp có lối tắt Disable all / Enable all.

Tắt một mô hình tại đây sẽ chặn mô hình đó cho toàn bộ cơ sở — mọi khóa API và dịch vụ được kết nối. Để chỉ thu hẹp danh sách cho một khóa hoặc dịch vụ, hãy dùng tùy chọn Restrict models của khóa hoặc dịch vụ đó (xem Khóa API và Connected Services).

Cài đặt suy luận

Mỗi mô hình có khả năng suy luận đều có cài đặt suy luận: mức độ suy luận được áp dụng khi máy khách không yêu cầu mức cụ thể. Cài đặt này hữu ích cho các công cụ không thể tự đặt mức độ suy luận; máy khách gửi mức riêng vẫn được ưu tiên.

Hình 3: Cài đặt suy luận của một mô hình đang mở, hiển thị Reasoning: Default và các mức độ

• Reasoning: Default giữ nguyên mặc định của nhà cung cấp.
• None, Minimal, Low, Medium, High và Max đặt mức độ được dùng khi yêu cầu không bao gồm mức cụ thể. Một số nhà cung cấp chỉ chấp nhận một số mức nhất định.
• Không thể thay đổi cài đặt khi mô hình đang tắt.
• Các mô hình không chấp nhận cài đặt suy luận sẽ hiển thị No reasoning: "This model does not accept a reasoning setting, so no default can be configured for it."

Nhấp vào Save changes để áp dụng.

Thiết lập sẵn nhanh

Các thiết lập sẵn áp dụng một lựa chọn được tuyển chọn chỉ với một cú nhấp (sau đó nhấp vào Save changes để áp dụng):

Tìm kiếm, bộ lọc và sắp xếp

• Tìm kiếm khớp với tên mô hình và nhà cung cấp ("Search models or providers").
• Status — Any / Enabled / Disabled.
• Vùng đất — United States / Europe / China.
• Capability — Vision (đầu vào hình ảnh), Audio (đầu vào hoặc đầu ra), PDF input, Reasoning.
• Sort By — Recommended / Name / Price / Context size, tăng dần hoặc giảm dần.

Nếu không có kết quả nào khớp, bạn sẽ thấy "No models match your filters." kèm thao tác Clear filters.

Auto Router (auto)

Auto Router nằm ở đầu danh sách với ID mô hình auto, được đánh dấu "Usage-priced":

"Bộ định tuyến tự động (Auto Router) không có mức giá riêng. Đối với mỗi yêu cầu, bộ định tuyến sẽ tự động chọn model tốt nhất dựa trên độ phức tạp của câu lệnh (prompt) và bạn sẽ bị tính phí theo mức giá của model được chọn. Đây là mức mặc định được khuyến nghị — các agent nhận được các model nhanh, chi phí thấp cho công việc đơn giản và chỉ sử dụng các model mạnh nhất khi tác vụ yêu cầu."

Gợi ý thông tin của nó tóm tắt: "The Auto Router picks the best model for each request based on complexity. Callers use the single model "auto"; you decide which model handles each tier."

Thẻ hiển thị cách định tuyến hiện tại — mô hình nào xử lý từng cấp độ phức tạp:

Các mô hình đích hiện tại của từng cấp độ, kèm giá, được công bố trên trang danh mục mô hình.

Trong Activity và Logs, các yêu cầu gửi đến auto hiển thị mô hình thực sự đã xử lý yêu cầu; ngăn chi tiết yêu cầu ghi auto là Requested model. Đây là hoạt động bình thường — đó là cách bạn biết bộ định tuyến đã chọn mô hình nào.

Chỉnh sửa định tuyến

Nhấp vào Edit routing trên thẻ Auto Router để tùy chỉnh bảng ánh xạ cấp độ cho cơ sở của bạn:

Hình 4: Hộp thoại Edit Auto Router: một mô hình cho mỗi cấp độ phức tạp

"Chọn model nào xử lý từng cấp độ phức tạp. Người gọi vẫn sử dụng model đơn lẻ "auto"; các yêu cầu được định tuyến đến model bạn chọn ở đây dựa trên độ phức tạp của câu lệnh. Chỉ các model đã bật mới có thể được chọn."

Chọn một mô hình cho mọi cấp độ ("Pick a model for every tier to save."), sau đó nhấp vào Save routing. Reset to default đưa cơ sở của bạn trở về cách định tuyến tiêu chuẩn.

Nếu cơ sở của bạn giới hạn danh sách mô hình đã bật, hãy giữ các mô hình đích của bộ định tuyến ở trạng thái bật — yêu cầu được định tuyến cần mô hình đã chọn luôn khả dụng.

Thiếu mô hình bạn cần?

Thẻ bên cạnh trên trang Models: "Want to see a model added? Raise a support request and we'll add it if it's generally available." Sử dụng liên kết Raise a support request.