गार्डरेल
इस पेज पर
गार्डरेल AI अनुरोधों के मॉडल तक पहुँचने से पहले उन पर सामग्री सुरक्षा लागू करते हैं। इन्हें पूरी सुविधा के लिए Settings (कॉग) → Guardrails में कॉन्फ़िगर किया जाता है, और अलग-अलग API कुंजियाँ और कनेक्टेड सेवाएँ इन्हें ओवरराइड कर सकती हैं।
"इस सुविधा के हर अनुरोध पर सामग्री सुरक्षा लागू करें। डिफ़ॉल्ट रूप से कोई भी सक्षम नहीं होता। अलग-अलग कुंजियाँ इन्हें ओवरराइड कर सकती हैं।"
चित्र 1: गार्डरेल: टेम्पलेट और PII masking
चित्र 2: Secret redaction और प्रॉम्प्ट-इंजेक्शन शील्ड
बिल्ट-इन गार्डरेल
| गार्डरेल | यह क्या करता है |
|---|---|
| PII masking | "प्रॉम्प्ट के मॉडल तक पहुँचने से पहले व्यक्तिगत डेटा (नाम, ईमेल, फ़ोन नंबर आदि) का पता लगाएँ और उसे छिपाएँ।" |
| Secret redaction | "प्रॉम्प्ट को अपस्ट्रीम भेजे जाने से पहले उनसे API कुंजियाँ, टोकन और अन्य सीक्रेट हटाएँ।" |
| Prompt-injection shield | "आम प्रॉम्प्ट-इंजेक्शन / जेलब्रेक प्रयासों (जैसे "ignore previous instructions", "developer mode") को मॉडल तक पहुँचने से पहले ब्लॉक करें।" |
PII masking और secret redaction प्रॉम्प्ट को दोबारा लिखते हैं (अनुरोध फिर भी आगे जाता है, लेकिन संवेदनशील अंश छिपे होते हैं)। प्रॉम्प्ट-इंजेक्शन शील्ड मेल खाने वाले अनुरोधों को content policy violation त्रुटि (HTTP 403) के साथ सीधे ब्लॉक करता है।
टेम्पलेट
Templates पंक्ति एक क्लिक में प्रीसेट चयन लागू करती है, फिर Save changes करें:
| टेम्पलेट | चयन |
|---|---|
| None | कोई गार्डरेल नहीं (डिफ़ॉल्ट)। |
| PII protection | PII masking। |
| Secret redaction | Secret redaction। |
| Injection shield | Prompt-injection shield। |
| Strict | तीनों। |
सहेजने पर "Guardrail settings saved." दिखता है।
सामग्री फ़िल्टर
गार्डरेल के नीचे, Content filters आपको अपने नियम जोड़ने देते हैं: प्रॉम्प्ट की सामग्री पर जाँचे जाने वाले कस्टम रेगुलर एक्सप्रेशन। Redact मेल खाने वाले हिस्सों को [REDACTED] में बदल देता है; Block अनुरोध को अस्वीकार कर देता है। अलग-अलग कुंजियाँ इन्हें ओवरराइड कर सकती हैं।
Add filter पर क्लिक करें, फिर यह सेट करें:
| फ़ील्ड | व्यवहार |
|---|---|
| Pattern | एक रेगुलर एक्सप्रेशन ("Regular expression, e.g. \b\d{16}\b" — यह उदाहरण 16 अंकों वाले कार्ड नंबरों से मेल खाता है)। असुरक्षित या बहुत लंबे पैटर्न हटा दिए जाते हैं और लागू नहीं होते; पैटर्न अधिकतम 300 वर्णों के हो सकते हैं, और एक सुविधा में अधिकतम 25 फ़िल्टर हो सकते हैं। मिलान में अक्षरों के बड़े-छोटे होने को अनदेखा किया जाता है, और हर संदेश के केवल पहले 20,000 वर्ण जाँचे जाते हैं। |
| Action | Redact — मेल खाने वाले हिस्से [REDACTED] में बदल दिए जाते हैं और अनुरोध जारी रहता है; Block — अनुरोध content policy violation त्रुटि के साथ अस्वीकार कर दिया जाता है। |
किसी फ़िल्टर को हटाने के लिए Remove का उपयोग करें, फिर Save changes करें। कोई फ़िल्टर कॉन्फ़िगर न होने पर: "No content filters. Add one to redact or block matching prompt text."
प्रति-कुंजी और प्रति-सेवा ओवरराइड
हर API कुंजी और हर कनेक्टेड सेवा के कॉन्फ़िगरेशन ड्रॉअर में एक Override facility guardrails टॉगल होता है:
- बंद (डिफ़ॉल्ट): कुंजी या सेवा सुविधा के गार्डरेल और सामग्री फ़िल्टर चयन को अपनाती है।
- चालू: कुंजी या सेवा इसके बजाय अपने चयन का उपयोग करती है — "इस कुंजी के लिए गार्डरेल को स्पष्ट रूप से बंद करने के लिए कोई भी न चुनें।" इसी तरह आप किसी एक भरोसेमंद इंटीग्रेशन को पूरी सुविधा की मास्किंग से छूट दे सकते हैं, या किसी एक कुंजी पर अधिक सख्त नियम लागू कर सकते हैं।
API कुंजियाँ और Connected Services देखें।
कॉल करने वालों को क्या दिखता है
- रिडैक्शन चुपचाप होते हैं — मॉडल को मेल खाने वाले टेक्स्ट की जगह बस
[REDACTED](या छिपाया गया PII/सीक्रेट) मिलता है। - ब्लॉक HTTP 403 लौटाते हैं, संदेश "Request blocked by content policy" और कोड
content_policy_violationके साथ। अपना एप्लिकेशन कनेक्ट करना में त्रुटि तालिका देखें।
प्रॉम्प्ट की सामग्री केवल ट्रांज़िट के दौरान स्कैन की जाती है — गार्डरेल जो स्कैन करते हैं उसे कभी संग्रहीत नहीं करते।