Защитные механизмы
На этой странице
Защитные механизмы применяют защиту контента к запросам к ИИ до того, как они попадут в модель. Они настраиваются для всего объекта в разделе «Настройки» (значок шестеренки) → Guardrails, а отдельные ключи API и подключенные сервисы могут их переопределять.
«Применяйте защиту контента к каждому запросу для этого объекта. По умолчанию ничего не включено. Отдельные ключи могут переопределять эти настройки.»
Рисунок 1. Guardrails: шаблоны и маскирование PII
Рисунок 2. Удаление секретов и защита от внедрения подсказок
Встроенные защитные механизмы
| Защитный механизм | Что делает |
|---|---|
| PII masking | «Обнаруживает и маскирует персональные данные (имена, адреса электронной почты, номера телефонов и т. д.) до того, как запросы попадут в модель.» |
| Secret redaction | «Удаляет ключи API, токены и другие секреты из запросов перед их отправкой вышестоящему сервису.» |
| Prompt-injection shield | «Блокирует распространенные попытки внедрения подсказок и обхода ограничений (например, „ignore previous instructions“, „developer mode“) до того, как они попадут в модель.» |
Маскирование PII и удаление секретов переписывают запрос (запрос по-прежнему выполняется, но конфиденциальные фрагменты маскируются). Защита от внедрения подсказок полностью блокирует соответствующие запросы с ошибкой content policy violation (HTTP 403).
Шаблоны
Строка Templates применяет готовый набор в один клик, после чего нажмите Save changes:
| Шаблон | Набор |
|---|---|
| None | Без защитных механизмов (по умолчанию). |
| PII protection | Маскирование PII. |
| Secret redaction | Удаление секретов. |
| Injection shield | Защита от внедрения подсказок. |
| Strict | Все три. |
При сохранении отображается "Guardrail settings saved."
Фильтры контента
Под защитными механизмами раздел Content filters позволяет добавлять собственные правила: пользовательские регулярные выражения, которые применяются к содержимому запроса. Redact заменяет совпадения на [REDACTED]; Block отклоняет запрос. Отдельные ключи могут их переопределять.
Нажмите Add filter и задайте:
| Поле | Поведение |
|---|---|
| Pattern | Регулярное выражение ("Regular expression, e.g. \b\d{16}\b" — этот пример соответствует 16-значным номерам карт). Небезопасные или слишком длинные шаблоны отбрасываются и не применяются; длина шаблона ограничена 300 символами, а у объекта может быть не более 25 фильтров. Сопоставление не учитывает регистр, и проверяются только первые 20,000 символов каждого сообщения. |
| Action | Redact — совпадения заменяются на [REDACTED], и запрос продолжается; Block — запрос отклоняется с ошибкой content policy violation. |
Чтобы удалить фильтр, нажмите Remove, а затем Save changes. Если фильтры не настроены, отображается: "No content filters. Add one to redact or block matching prompt text."
Переопределения для ключей и сервисов
У каждого ключа API и каждого подключенного сервиса на панели настройки есть переключатель Override facility guardrails:
- Выключен (по умолчанию): ключ или сервис наследует набор защитных механизмов и фильтров контента объекта.
- Включен: ключ или сервис использует вместо этого собственный набор — «Не выбирайте ничего, чтобы явно отключить защитные механизмы для этого ключа.» Так можно исключить одну доверенную интеграцию из маскирования на уровне объекта или применить более строгие правила к отдельному ключу.
См. Ключи API и Connected Services.
Что видит вызывающая сторона
- Удаление выполняется незаметно — модель просто получает
[REDACTED](или замаскированные PII и секреты) вместо совпавшего текста. - Блокировка возвращает HTTP 403 с сообщением "Request blocked by content policy" и кодом
content_policy_violation. См. таблицу ошибок в разделе Подключение приложения.
Содержимое запросов проверяется только при передаче — защитные механизмы никогда не сохраняют то, что проверяют.