Diretrizes de Segurança
Nesta página
Os guardrails aplicam proteções de conteúdo às solicitações de IA antes que elas cheguem ao modelo. Eles são configurados para toda a instalação em Settings (engrenagem) → Guardrails, e chaves de API e serviços conectados específicos podem substituí-los.
"Aplique proteções de conteúdo a cada solicitação para esta Instalação. Nenhuma vem habilitada por padrão. Chaves individuais podem substituir estas configurações."
Figura 1: Guardrails: os modelos predefinidos e o PII masking
Figura 2: Secret redaction e o escudo contra injeção de prompt
As proteções integradas
| Proteção | O que faz |
|---|---|
| PII masking | "Detect and mask personal data (names, emails, phone numbers, etc.) before prompts reach the model." |
| Secret redaction | "Strip API keys, tokens and other secrets out of prompts before they are sent upstream." |
| Prompt-injection shield | "Block common prompt-injection / jailbreak attempts (e.g. "ignore previous instructions", "developer mode") before they reach the model." |
O PII masking e o Secret redaction reescrevem o prompt (a solicitação continua sendo enviada, com os trechos sensíveis mascarados). O escudo contra injeção de prompt bloqueia completamente as solicitações correspondentes com um erro de violação da política de conteúdo (HTTP 403).
Modelos predefinidos
A linha Templates aplica uma seleção predefinida com um clique; em seguida, clique em Save changes:
| Modelo predefinido | Seleção |
|---|---|
| None | Nenhuma proteção (o padrão). |
| PII protection | PII masking. |
| Secret redaction | Secret redaction. |
| Injection shield | Prompt-injection shield. |
| Strict | Todas as três. |
Ao salvar, é exibido "Guardrail settings saved."
Filtros de conteúdo
Abaixo das proteções, os Content filters permitem adicionar as suas próprias regras: expressões regulares personalizadas avaliadas no conteúdo do prompt. Redact substitui as correspondências por [REDACTED]; Block rejeita a solicitação. Chaves específicas podem substituí-los.
Clique em Add filter e defina:
| Campo | Comportamento |
|---|---|
| Pattern | Uma expressão regular ("Regular expression, e.g. \b\d{16}\b" — esse exemplo corresponde a números de cartão de 16 dígitos). Padrões inseguros ou longos demais são descartados e não são aplicados; os padrões são limitados a 300 caracteres, e uma instalação pode ter até 25 filtros. A correspondência ignora maiúsculas e minúsculas, e somente os primeiros 20,000 caracteres de cada mensagem são verificados. |
| Action | Redact — as correspondências são substituídas por [REDACTED] e a solicitação continua; Block — a solicitação é rejeitada com um erro de violação da política de conteúdo. |
Use Remove para excluir um filtro e, em seguida, clique em Save changes. Sem nenhum filtro configurado: "No content filters. Add one to redact or block matching prompt text."
Substituições por chave e por serviço
Cada chave de API e cada serviço conectado tem um botão Override facility guardrails na sua gaveta de configuração:
- Desativado (padrão): a chave ou o serviço herda a seleção de proteções e de filtros de conteúdo da instalação.
- Ativado: a chave ou o serviço usa a sua própria seleção — "Select none to explicitly disable guardrails for this key." É assim que você isenta uma integração confiável do mascaramento aplicado a toda a instalação ou aplica regras mais rígidas a uma única chave.
Consulte Chaves de API e Connected Services.
O que os chamadores veem
- As ocultações são silenciosas — o modelo simplesmente recebe
[REDACTED](ou PII/segredos mascarados) no lugar do texto correspondente. - Os bloqueios retornam HTTP 403 com a mensagem "Request blocked by content policy" e o código
content_policy_violation. Consulte a tabela de erros em Como conectar o seu aplicativo.
O conteúdo dos prompts é verificado somente em trânsito — os guardrails nunca armazenam o que verificam.