预算与限制

本页内容

您的人工智能代理通过 Model Router 提供的人工智能模型进行思考,此项使用按量计费——每次模型调用都会产生少量费用,并从您的 Model Router 余额中扣除。预算与限制允许您为每个代理精确控制其允许支出的金额及其运行速度。

打开 Device management 并选择 Budgets & limits 标签页。

显示今日和本月当前支出、账户余额以及预计运行跑道的 Budgets & limits 标签页显示今日和本月当前支出、账户余额以及预计运行跑道的 Budgets & limits 标签页

图 1:Budgets & limits 标签页 — 当前支出、账户余额和跑道,以及支出上限

快速参考

| 控制项 | 作用 | 超出时 |p |---------|--------------|---------------| | Daily limit | 每日允许的支出 — “在每天开始时重置。” | 当天剩余时间内拒绝模型调用 | | Monthly limit | 每月允许的支出 — "在每月 1 日重置。" | 在月份滚动更新之前拒绝模型调用 | | Lifetime cap | "此代理整个生命周期内的总支出。永不重置。" | 在提高上限之前拒绝模型调用 | | Requests / min | 每分钟的模型调用次数 | 将调用限制在设定的速率 | | Tokens / min | 每分钟的文本量 | 将调用限制在设定的速率 |

各项限制默认处于关闭状态,直到您将其开启。

当前支出

标签页顶部 Current spend 显示代理今日 (Today) 和本月 (This month) 的支出、扣费的 Account balance 以及 Estimated runway(预计运行跑道)——“根据该设备的近期支出与剩余账户余额估算。” Manage account & top up 可打开 Model Router,您可以在其中添加充值金额。

代理如何产生支出

每个代理都显示在 Model Router(设置 → Service Access & API Keys)的 Connected Services 下方。代理使用人工智能模型所做的一切(聊天、总结文档、运行定时任务、处理通知)都会计入该代理的账单,因此其支出始终可见,且与其他人工智能使用情况明确分离。

支出受两个层级的控制:

  1. 代理自身的上限和限制 — 在此标签页上设置,仅适用于此代理。
  2. 您的 Model Router 账户 — 共享的预付费余额以及在 Model Router 中配置的任何设施级支出限制。无论代理自身的上限如何规定,代理的支出绝不能超过这些限制。

如果 Model Router 余额耗尽,代理的模型访问权限将与所有其他服务一起暂停,直到余额充值完毕。代理会显示一条带有 Open Model Router 的通知 — “如果您无法访问 Model Router 页面,请联系您的管理员。”

支出上限

Spend caps: “为此代理开启每日、每月或终身上限。每个上限都会显示已使用预算的比例。”

显示 5 美元日限额、50 美元月限额以及每分钟速率限制的支出上限显示 5 美元日限额、50 美元月限额以及每分钟速率限制的支出上限

图 2:设置支出上限和速率限制

设置上限:

  1. 开启 Daily limit、Monthly limit 或 Lifetime cap。
  2. 在 Limit 下输入金额。进度条显示代理已使用的金额,例如 $0.96 / $5 (19%)。
  3. 点击 Save changes。

达到上限时,进度条会显示 Limit reached,并且代理的模型调用将被拒绝,直到窗口重置(按日和按月)或提高上限(终身)。代理本身保持运行 — 其文件、Memory 和计划日程不受影响 — 只是在恢复支出额度之前无法调用模型。

一种实用的模式:将 monthly limit 作为您的实际控制手段,再加上一个约为典型日常开销两到三倍的 daily limit,以此作为防止失控的自动化操作或异常繁重工作日的刹车。

您还可以在添加 agent 时,在高级设置中设置上限 — 参见入门指南。

速率限制

Rate limits:“限制此 agent 的每分钟请求数和 Token 数。” 开启此功能并设置每分钟请求数 (Requests / min) 和 每分钟 Token 数 (Tokens / min)。

  • 它们可以防止失控的循环 — 表现异常的自动化可能会迅速耗尽预算,而速率限制会将其速度拖慢到爬行状态。
  • 设置时应比正常使用量留出一定的余量,以免日常的业务高峰受到阻碍。

大多数设施不需要速率限制;上限才是主要的控制手段。如果您运行繁重的自动化任务并希望对突发行为设定硬性上限,请进行设置。

消费芯片

在选项卡底部,在页眉中显示 (Show in header):“在顶部指标栏中以标签形式显示剩余的 AI 花费。仅您可见。”

开启此功能后,指标栏中将出现一个标签,显示您的剩余余量(即已配置的各项上限中最紧缩的一个,如果未设置上限则显示账户余额,例如 “剩余 $7.18”)。这属于个人偏好:每个用户都可以自行选择。点击该标签可直接跳转至此选项卡。

谁可以更改 Budgets & Limits

预算和消费限额由管理 agent 的 AI 花费的人员进行设置。如果您没有权限,选项卡中会显示:“您没有权限访问 Budgets & limits。请联系您的账户管理员为该 agent 进行设置和配置。”

更改会迅速生效

上限和限制的更改会在大约一分钟内生效 — 系统会在 agent 发起的每次模型调用时进行强制检查(伴有短时间的缓存)。无需重启任何内容。

在哪里查看详细使用情况

Budgets & limits 选项卡显示 agent 的核心数字。有关完整详情(每个模型的花费、请求历史记录以及随时间变化的趋势),请打开 Model Router,在那里该 agent 及其长期的实时花费和窗口期花费将与您的其他 Connected Services 和 API 密钥一起显示。请参阅Model Router 中的 AI agents。