Sicherheitsvorkehrungen
Auf dieser Seite
Guardrails wenden Schutzmaßnahmen auf die Inhalte von KI-Anfragen an, bevor diese das Modell erreichen. Sie werden einrichtungsweit unter Einstellungen (Zahnrad) → Guardrails konfiguriert, und einzelne API-Schlüssel und verbundene Dienste können sie überschreiben.
"Wenden Sie Inhaltschutzmaßnahmen auf jede Anfrage für diese Einrichtung an. Standardmäßig sind keine aktiviert. Einzelne Keys können diese überschreiben."
Abbildung 1: Guardrails: die Vorlagen und PII masking
Abbildung 2: Secret redaction und der Prompt-injection shield
Die integrierten Guardrails
| Guardrail | Funktion |
|---|---|
| PII masking | "Detect and mask personal data (names, emails, phone numbers, etc.) before prompts reach the model." |
| Secret redaction | "Strip API keys, tokens and other secrets out of prompts before they are sent upstream." |
| Prompt-injection shield | "Block common prompt-injection / jailbreak attempts (e.g. "ignore previous instructions", "developer mode") before they reach the model." |
PII masking und Secret redaction schreiben den Prompt um (die Anfrage wird weiterhin ausgeführt, wobei sensible Stellen maskiert sind). Der Prompt-injection shield blockiert passende Anfragen vollständig mit einem content policy violation-Fehler (HTTP 403).
Vorlagen
Die Zeile Templates wendet mit einem Klick eine vordefinierte Auswahl an; klicken Sie anschließend auf Änderungen speichern:
| Vorlage | Auswahl |
|---|---|
| None | Keine Guardrails (Standard). |
| PII protection | PII masking. |
| Secret redaction | Secret redaction. |
| Injection shield | Prompt-injection shield. |
| Strict | Alle drei. |
Nach dem Speichern wird "Guardrail settings saved." angezeigt.
Inhaltsfilter
Unter den Guardrails können Sie mit Content filters eigene Regeln hinzufügen: benutzerdefinierte reguläre Ausdrücke, die auf den Prompt-Inhalt angewendet werden. Redact ersetzt Treffer durch [REDACTED]; Block lehnt die Anfrage ab. Einzelne Schlüssel können sie überschreiben.
Klicken Sie auf Add filter und legen Sie dann Folgendes fest:
| Feld | Verhalten |
|---|---|
| Pattern | Ein regulärer Ausdruck ("Regular expression, e.g. \b\d{16}\b" – dieses Beispiel erkennt 16-stellige Kartennummern). Unsichere oder zu lange Muster werden verworfen und nicht angewendet; Muster sind auf 300 Zeichen begrenzt, und eine Einrichtung kann bis zu 25 Filter haben. Groß- und Kleinschreibung wird nicht beachtet, und es werden nur die ersten 20,000 Zeichen jeder Nachricht geprüft. |
| Action | Redact – Treffer werden durch [REDACTED] ersetzt und die Anfrage wird fortgesetzt; Block – die Anfrage wird mit einem content policy violation-Fehler abgelehnt. |
Mit Remove löschen Sie einen Filter; klicken Sie anschließend auf Änderungen speichern. Ist kein Filter konfiguriert: "No content filters. Add one to redact or block matching prompt text."
Überschreibungen pro Schlüssel und pro Dienst
Jeder API-Schlüssel und jeder verbundene Dienst hat in seinem Konfigurationsbereich einen Schalter Override facility guardrails:
- Aus (Standard): Der Schlüssel oder Dienst übernimmt die Auswahl an Guardrails und Inhaltsfiltern der Einrichtung.
- Ein: Der Schlüssel oder Dienst verwendet stattdessen seine eigene Auswahl – "Select none to explicitly disable guardrails for this key." So nehmen Sie eine vertrauenswürdige Integration von der einrichtungsweiten Maskierung aus oder wenden strengere Regeln auf einen einzelnen Schlüssel an.
Siehe API-Schlüssel und Connected Services.
Was Aufrufer sehen
- Schwärzungen erfolgen unbemerkt – das Modell erhält anstelle des erkannten Texts einfach
[REDACTED](bzw. maskierte personenbezogene Daten oder Geheimnisse). - Blockierungen geben HTTP 403 zurück mit der Meldung "Request blocked by content policy" und dem Code
content_policy_violation. Siehe die Fehlertabelle unter Ihre Anwendung verbinden.
Prompt-Inhalte werden nur während der Übertragung geprüft – Guardrails speichern nie, was sie prüfen.