Lockdown Mode добрался и до ChatGPT. OpenAI «кастрировала» свой ИИ для повышения безопасности
NewsMakerНовый режим превращает некогда умного помощника в обыкновенного параноика.
Инструменты искусственного интеллекта всё чаще работают с файлами, сайтами и внешними сервисами, а значит, получают новые каналы для утечки данных. На этом фоне OpenAI начала внедрять в ChatGPT новый режим Lockdown Mode для личных аккаунтов и самостоятельно оформленных тарифов ChatGPT Business. Режим рассчитан на пользователей и организации, которые работают с чувствительной информацией и хотят уменьшить риск утечки данных за пределы диалога.
Главная задача Lockdown Mode связана с атаками типа Prompt Injection . При такой атаке вредоносная инструкция прячется в документе, веб-странице или другом внешнем источнике и пытается заставить модель выполнить действие, которого пользователь не просил. В опасном сценарии такая инструкция может направить данные на сервер злоумышленника через доступные сетевые функции.
Новый режим не пытается полностью остановить Prompt Injection. Вместо этого Lockdown Mode сокращает число путей, по которым информация может уйти наружу. OpenAI ограничивает исходящие сетевые запросы и отключает часть функций, которые связывают ChatGPT с интернетом или внешними сервисами.
После включения режима веб-поиск работает только с кэшированным содержимым, исчезает поддержка изображений в стандартных ответах и получение изображений из сети, отключаются Deep Research и Agent Mode. Также блокируются сетевые возможности Canvas, скачивание файлов для анализа данных и другие функции, которые могли бы передавать сведения во внешнюю инфраструктуру.
OpenAI отдельно подчёркивает, что Lockdown Mode не предназначен для всех пользователей. Режим усиливает защиту ценой удобства, поэтому часть привычных возможностей становится недоступной. Кроме того, Lockdown Mode нельзя использовать одновременно с Developer Mode: включение одного режима отключает другой.
Ограничения не дают полной гарантии безопасности. Вредоносная инструкция в загруженном файле всё ещё может повлиять на поведение ChatGPT и привести к неверному ответу. Также сохраняются риски через включённые приложения, неожиданные сочетания функций и новые методы атак.
Параллельно OpenAI добавила управление активными сессиями ChatGPT. Пользователи могут просмотреть устройства, приложения, примерное местоположение и время входа, а затем завершить отдельную сессию или выйти из аккаунта на всех устройствах при подозрительной активности.
Инструменты искусственного интеллекта всё чаще работают с файлами, сайтами и внешними сервисами, а значит, получают новые каналы для утечки данных. На этом фоне OpenAI начала внедрять в ChatGPT новый режим Lockdown Mode для личных аккаунтов и самостоятельно оформленных тарифов ChatGPT Business. Режим рассчитан на пользователей и организации, которые работают с чувствительной информацией и хотят уменьшить риск утечки данных за пределы диалога.
Главная задача Lockdown Mode связана с атаками типа Prompt Injection . При такой атаке вредоносная инструкция прячется в документе, веб-странице или другом внешнем источнике и пытается заставить модель выполнить действие, которого пользователь не просил. В опасном сценарии такая инструкция может направить данные на сервер злоумышленника через доступные сетевые функции.
Новый режим не пытается полностью остановить Prompt Injection. Вместо этого Lockdown Mode сокращает число путей, по которым информация может уйти наружу. OpenAI ограничивает исходящие сетевые запросы и отключает часть функций, которые связывают ChatGPT с интернетом или внешними сервисами.
После включения режима веб-поиск работает только с кэшированным содержимым, исчезает поддержка изображений в стандартных ответах и получение изображений из сети, отключаются Deep Research и Agent Mode. Также блокируются сетевые возможности Canvas, скачивание файлов для анализа данных и другие функции, которые могли бы передавать сведения во внешнюю инфраструктуру.
OpenAI отдельно подчёркивает, что Lockdown Mode не предназначен для всех пользователей. Режим усиливает защиту ценой удобства, поэтому часть привычных возможностей становится недоступной. Кроме того, Lockdown Mode нельзя использовать одновременно с Developer Mode: включение одного режима отключает другой.
Ограничения не дают полной гарантии безопасности. Вредоносная инструкция в загруженном файле всё ещё может повлиять на поведение ChatGPT и привести к неверному ответу. Также сохраняются риски через включённые приложения, неожиданные сочетания функций и новые методы атак.
Параллельно OpenAI добавила управление активными сессиями ChatGPT. Пользователи могут просмотреть устройства, приложения, примерное местоположение и время входа, а затем завершить отдельную сессию или выйти из аккаунта на всех устройствах при подозрительной активности.