Garde-fous
Sur cette page
Les guardrails appliquent des protections du contenu aux requêtes d'IA avant qu'elles n'atteignent le modèle. Ils se configurent à l'échelle de l'installation sous Settings (roue dentée) → Guardrails, et les clés API et services connectés peuvent individuellement les remplacer.
"Appliquez des protections de contenu à chaque requête pour cette installation. Aucune n'est activée par défaut. Des clés individuelles peuvent contourner ces paramètres."
Figure 1 : Guardrails : les modèles et PII masking
Figure 2 : Secret redaction et la protection contre l'injection de prompts
Les guardrails intégrés
| Guardrail | Fonction |
|---|---|
| PII masking | "Detect and mask personal data (names, emails, phone numbers, etc.) before prompts reach the model." |
| Secret redaction | "Strip API keys, tokens and other secrets out of prompts before they are sent upstream." |
| Prompt-injection shield | "Block common prompt-injection / jailbreak attempts (e.g. "ignore previous instructions", "developer mode") before they reach the model." |
PII masking et Secret redaction réécrivent le prompt (la requête est tout de même transmise, avec les passages sensibles masqués). Prompt-injection shield bloque purement et simplement les requêtes correspondantes avec une erreur content policy violation (HTTP 403).
Modèles
La ligne Templates applique une sélection prédéfinie en un clic ; cliquez ensuite sur Enregistrer les modifications :
| Modèle | Sélection |
|---|---|
| None | Aucun guardrail (par défaut). |
| PII protection | PII masking. |
| Secret redaction | Secret redaction. |
| Injection shield | Prompt-injection shield. |
| Strict | Les trois. |
L'enregistrement affiche "Guardrail settings saved."
Filtres de contenu
Sous les guardrails, Content filters vous permet d'ajouter vos propres règles : des expressions régulières personnalisées évaluées sur le contenu des prompts. Redact remplace les correspondances par [REDACTED] ; Block rejette la requête. Les clés peuvent individuellement les remplacer.
Cliquez sur Add filter, puis définissez :
| Champ | Comportement |
|---|---|
| Pattern | Une expression régulière ("Regular expression, e.g. \b\d{16}\b" : cet exemple correspond aux numéros de carte à 16 chiffres). Les motifs dangereux ou trop longs sont écartés et ne sont pas appliqués ; les motifs sont limités à 300 caractères, et une installation peut avoir jusqu'à 25 filtres. La correspondance ne tient pas compte de la casse, et seuls les 20,000 premiers caractères de chaque message sont vérifiés. |
| Action | Redact : les correspondances sont remplacées par [REDACTED] et la requête se poursuit ; Block : la requête est rejetée avec une erreur content policy violation. |
Utilisez Remove pour supprimer un filtre, puis Enregistrer les modifications. Si aucun filtre n'est configuré : "No content filters. Add one to redact or block matching prompt text."
Remplacements par clé et par service
Chaque clé API et chaque service connecté dispose d'un interrupteur Override facility guardrails dans son panneau de configuration :
- Désactivé (par défaut) : la clé ou le service hérite de la sélection de guardrails et de filtres de contenu de l'installation.
- Activé : la clé ou le service utilise à la place sa propre sélection : "Select none to explicitly disable guardrails for this key." C'est ainsi que vous exemptez une intégration de confiance du masquage appliqué à l'échelle de l'installation, ou que vous appliquez des règles plus strictes à une seule clé.
Consultez Clés API et Connected Services.
Ce que voient les appelants
- Les masquages sont silencieux : le modèle reçoit simplement
[REDACTED](ou les données personnelles et secrets masqués) à la place du texte correspondant. - Les blocages renvoient HTTP 403 avec le message "Request blocked by content policy" et le code
content_policy_violation. Consultez le tableau des erreurs dans Connecter votre application.
Le contenu des prompts est analysé uniquement en transit : les guardrails ne stockent jamais ce qu'ils analysent.