安全护栏

本页内容

防护规则会在 AI 请求到达模型之前对其应用内容保护。防护规则在 Settings(齿轮)→ Guardrails 下按设施范围配置,单个 API 密钥和已连接服务可以覆盖这些设置。

"Apply content protections to every request for this facility. None are enabled by default. Individual keys can override these."(对此设施的每个请求应用内容保护。默认情况下均未启用。单个密钥可以覆盖这些设置。)

Guardrails 设置,包含模板行和 PII masking 防护规则Guardrails 设置,包含模板行和 PII masking 防护规则

图 1:Guardrails:模板和 PII 遮蔽

Guardrails 设置下方的 Secret redaction 和 Prompt-injection shield 防护规则Guardrails 设置下方的 Secret redaction 和 Prompt-injection shield 防护规则

图 2:机密信息隐去和提示注入防护

内置防护规则

防护规则作用
PII masking"Detect and mask personal data (names, emails, phone numbers, etc.) before prompts reach the model."(在提示到达模型之前,检测并遮蔽个人数据(姓名、电子邮件、电话号码等)。)
Secret redaction"Strip API keys, tokens and other secrets out of prompts before they are sent upstream."(在提示发送到上游之前,从中移除 API 密钥、令牌和其他机密信息。)
Prompt-injection shield"Block common prompt-injection / jailbreak attempts (e.g. "ignore previous instructions", "developer mode") before they reach the model."(在常见的提示注入/越狱尝试(例如“ignore previous instructions”、“developer mode”)到达模型之前将其阻止。)

PII 遮蔽和机密信息隐去会改写提示(请求仍会继续,只是敏感片段已被遮蔽)。提示注入防护则会直接阻止匹配的请求,并返回内容策略违规错误 (HTTP 403)。

模板

Templates 行可一键应用预设选择,然后点击 保存更改:

模板选择
None不使用防护规则(默认)。
PII protectionPII 遮蔽。
Secret redaction机密信息隐去。
Injection shield提示注入防护。
Strict全部三项。

保存后会显示 "Guardrail settings saved."

内容过滤器

在防护规则下方,您可以通过 Content filters 添加自己的规则:针对提示内容进行评估的自定义正则表达式。Redact 会将匹配项改写为 [REDACTED];Block 会拒绝请求。单个密钥可以覆盖这些规则。

点击 Add filter,然后设置:

字段行为
Pattern正则表达式("Regular expression, e.g. \b\d{16}\b",该示例匹配 16 位卡号)。不安全或过长的模式会被丢弃且不会应用;模式最长 300 个字符,每个设施最多可有 25 个过滤器。匹配不区分大小写,并且只检查每条消息的前 20,000 个字符。
ActionRedact:匹配项被改写为 [REDACTED],请求继续进行;Block:请求被拒绝,并返回内容策略违规错误。

使用 Remove 删除过滤器,然后点击 保存更改。如果未配置任何过滤器,会显示:"No content filters. Add one to redact or block matching prompt text."(没有内容过滤器。添加一个过滤器以隐去或阻止匹配的提示文本。)

按密钥和按服务覆盖

每个 API 密钥和每个已连接服务的配置抽屉中都有一个 Override facility guardrails 开关:

  • **关闭(默认):**该密钥或服务沿用设施的防护规则和内容过滤器选择。
  • **开启:**该密钥或服务改用自己的选择:"Select none to explicitly disable guardrails for this key."(不选择任何项即可为此密钥明确禁用防护规则。)通过这种方式,您可以让某个受信任的集成免受设施范围的遮蔽,或对单个密钥应用更严格的规则。

请参阅 API 密钥和 Connected Services。

调用方看到的内容

  • 隐去操作是静默的:模型收到的只是 [REDACTED](或已遮蔽的 PII/机密信息),用以替代匹配的文本。
  • 阻止操作返回 HTTP 403,消息为 "Request blocked by content policy",代码为 content_policy_violation。请参阅连接您的应用程序中的错误表。

提示内容仅在传输过程中被扫描:防护规则从不存储其扫描的内容。