OpenAI представила в ChatGPT режим блокировки для борьбы с промпт-инъекциями

OpenAI выпустила для своего чат-бота ChatGPT новый инструмент — режим блокировки (Lockdown Mode). Он призван усилить защиту от атак типа промпт-инъекций (Prompt Injection), при которых злоумышленники прячут вредоносные команды на веб-страницах или в другом контенте, чтобы обманом вынудить ИИ совершать действия без разрешения пользователя.

Главная задача режима — уменьшить вероятность утечки данных при подобных атаках за счёт ограничения исходящего сетевого трафика. Для этого часть возможностей чат-бота отключается или урезается. Так, перестают работать просмотр веб-страниц в режиме реального времени (остаётся доступ лишь к закешированным данным), загрузка и показ изображений из сети, расширенный поиск, а также агентский режим.

При этом OpenAI подчёркивает: несмотря на то что режим блокировки значительно снижает риски утечки данных в ChatGPT и связанных сервисах компании, он не даёт стопроцентной гарантии. Угроза способна сохраняться из-за подключённых приложений. Помимо этого, вредоносные инструкции могут скрываться в кешированном веб-контенте или загружаемых файлах, продолжая воздействовать на работу модели и достоверность её ответов.

Компания также пояснила, что функция рассчитана не на массового пользователя: «Она создана для частных лиц и организаций, работающих с конфиденциальной информацией и нуждающихся в повышенной защите от утечек, связанных с промпт-инъекциями».

Пока режим блокировки доступен владельцам аккаунтов ChatGPT Business с самообслуживанием, а также пользователям подходящих личных тарифов — Free, Go, Plus и Pro.