מערכות הגנה (Guardrails)

בדף זה

Guardrails מחילים הגנות תוכן על בקשות בינה מלאכותית לפני שהן מגיעות למודל. הם מוגדרים ברמת המתקן כולו תחת Settings (גלגל השיניים) ← Guardrails, ומפתחות API ושירותים מחוברים בודדים יכולים לעקוף אותם.

"החילו הגנות תוכן על כל בקשה עבור מתקן זה. שום הגנה אינה מופעלת כברירת מחדל. מפתחות בודדים יכולים לעקוף הגדרות אלו."

הגדרות Guardrails, עם שורת התבניות וה-Guardrail של מיסוך PII

איור 1: Guardrails: התבניות ומיסוך PII

ה-Guardrails של הסתרת סודות והמגן מפני הזרקת הנחיות, בהמשך הגדרות Guardrails

איור 2: הסתרת סודות והמגן מפני הזרקת הנחיות

ה-Guardrails המובנים

Guardrail	מה הוא עושה
PII masking	"Detect and mask personal data (names, emails, phone numbers, etc.) before prompts reach the model."
Secret redaction	"Strip API keys, tokens and other secrets out of prompts before they are sent upstream."
Prompt-injection shield	"Block common prompt-injection / jailbreak attempts (e.g. "ignore previous instructions", "developer mode") before they reach the model."

מיסוך PII והסתרת סודות משכתבים את ההנחיה (הבקשה עדיין עוברת, כשהקטעים הרגישים ממוסכים). המגן מפני הזרקת הנחיות חוסם לחלוטין בקשות תואמות עם שגיאת content policy violation‏ (HTTP 403).

תבניות

השורה Templates מחילה בחירה מוגדרת מראש בלחיצה אחת, ואז לוחצים על Save changes:

תבנית	בחירה
None	ללא Guardrails (ברירת המחדל).
PII protection	מיסוך PII.
Secret redaction	הסתרת סודות.
Injection shield	המגן מפני הזרקת הנחיות.
Strict	שלושתם.

השמירה מציגה "Guardrail settings saved."

מסנני תוכן

מתחת ל-Guardrails, Content filters מאפשרים לכם להוסיף כללים משלכם: ביטויים רגולריים מותאמים אישית שנבדקים מול תוכן ההנחיה. Redact משכתב התאמות ל-[REDACTED]; ‏Block דוחה את הבקשה. מפתחות בודדים יכולים לעקוף אותם.

לחצו על Add filter, ואז הגדירו:

שדה התנהגות

Pattern ביטוי רגולרי ("Regular expression, e.g. \b\d{16}\b" — הדוגמה הזו מתאימה למספרי כרטיס בני 16 ספרות). תבניות לא בטוחות או ארוכות מדי מושמטות ולא מוחלות; אורך תבנית מוגבל ל-300 תווים, ולמתקן יכולים להיות עד 25 מסננים. ההתאמה אינה תלויה באותיות רישיות, ורק 20,000 התווים הראשונים של כל הודעה נבדקים.

Action Redact — התאמות משוכתבות ל-[REDACTED] והבקשה ממשיכה; Block — הבקשה נדחית עם שגיאת content policy violation.

שדה	התנהגות
Pattern	ביטוי רגולרי ("Regular expression, e.g. \b\d{16}\b" — הדוגמה הזו מתאימה למספרי כרטיס בני 16 ספרות). תבניות לא בטוחות או ארוכות מדי מושמטות ולא מוחלות; אורך תבנית מוגבל ל-300 תווים, ולמתקן יכולים להיות עד 25 מסננים. ההתאמה אינה תלויה באותיות רישיות, ורק 20,000 התווים הראשונים של כל הודעה נבדקים.
Action	Redact — התאמות משוכתבות ל-`[REDACTED]` והבקשה ממשיכה; Block — הבקשה נדחית עם שגיאת content policy violation.

השתמשו ב-Remove כדי למחוק מסנן, ואז ב-Save changes. כשאין מסננים מוגדרים: "No content filters. Add one to redact or block matching prompt text."

עקיפות לכל מפתח ולכל שירות

לכל מפתח API ולכל שירות מחובר יש מתג Override facility guardrails במגירת התצורה שלו:

כבוי (ברירת מחדל): המפתח או השירות יורשים את בחירת ה-Guardrails ומסנני התוכן של המתקן.
פועל: המפתח או השירות משתמשים בבחירה משלהם במקום זאת — "Select none to explicitly disable guardrails for this key." כך פוטרים שילוב מהימן אחד ממיסוך ברמת המתקן כולו, או מחילים כללים מחמירים יותר על מפתח בודד.

ראו מפתחות API ו-Connected Services.

מה הגורמים הקוראים רואים

הסתרות שקטות — המודל פשוט מקבל [REDACTED] (או PII/סודות ממוסכים) במקום הטקסט שהותאם.
חסימות מחזירות HTTP 403 עם ההודעה "Request blocked by content policy" והקוד content_policy_violation. ראו את טבלת השגיאות בחיבור האפליקציה שלכם.

תוכן ההנחיות נסרק רק בזמן המעבר — Guardrails לעולם אינם שומרים את מה שהם סורקים.