ChatGPT уходит в глухую оборону. Теперь у нейросети есть режим для тех, кого постоянно пытаются взломать
NewsMakerПопулярный инструмент наконец превратился в бронированный сейф.
OpenAI объявила о запуске новых механизмов защиты в ChatGPT , которые нацелены на снижение рисков при работе с внешними источниками и подключёнными сервисами. Компания усиливает контроль над тем, как модель взаимодействует с сетью и приложениями, и одновременно вводит более наглядную маркировку функций с повышенным уровнем угроз.
Главным нововведением стал режим Lockdown Mode (режим блокировки) — дополнительная опция безопасности для пользователей, которые чаще других становятся целями сложных атак. Речь идёт о руководителях, командах защиты и сотрудниках крупных организаций. Этот режим жёстко ограничивает внешние взаимодействия ChatGPT и снижает вероятность утечки данных через атаки с внедрением вредоносных инструкций в запросы.
При включении Lockdown Mode система строго отключает ряд инструментов и сценариев, которые злоумышленники могут использовать для вывода чувствительной информации. Просмотр веб-страниц работает только через закрытый кэш — без прямых сетевых запросов наружу. Часть функций полностью блокируется, если нельзя гарантировать сохранность данных на техническом уровне. Режим дополняет уже действующие меры — изоляцию среды выполнения, защиту от утечки через ссылки, журналы аудита и разграничение ролей в корпоративных версиях сервиса. Подробнее о природе атак с внедрением вредоносных инструкций в LLM-системы.
Настройка доступна в тарифах ChatGPT Enterprise, Edu, Healthcare и Teachers. Администраторы рабочих пространств могут назначать специальные роли и отдельно определять, какие приложения и действия внутри них разрешены даже при жёстких ограничениях. Для контроля активности применяется платформа журналов соответствия, которая показывает обращения к приложениям и источникам данных. Для массовых пользователей запуск режима запланирован позже.
OpenAI объявила о запуске новых механизмов защиты в ChatGPT , которые нацелены на снижение рисков при работе с внешними источниками и подключёнными сервисами. Компания усиливает контроль над тем, как модель взаимодействует с сетью и приложениями, и одновременно вводит более наглядную маркировку функций с повышенным уровнем угроз.
Главным нововведением стал режим Lockdown Mode (режим блокировки) — дополнительная опция безопасности для пользователей, которые чаще других становятся целями сложных атак. Речь идёт о руководителях, командах защиты и сотрудниках крупных организаций. Этот режим жёстко ограничивает внешние взаимодействия ChatGPT и снижает вероятность утечки данных через атаки с внедрением вредоносных инструкций в запросы.
При включении Lockdown Mode система строго отключает ряд инструментов и сценариев, которые злоумышленники могут использовать для вывода чувствительной информации. Просмотр веб-страниц работает только через закрытый кэш — без прямых сетевых запросов наружу. Часть функций полностью блокируется, если нельзя гарантировать сохранность данных на техническом уровне. Режим дополняет уже действующие меры — изоляцию среды выполнения, защиту от утечки через ссылки, журналы аудита и разграничение ролей в корпоративных версиях сервиса. Подробнее о природе атак с внедрением вредоносных инструкций в LLM-системы.
Настройка доступна в тарифах ChatGPT Enterprise, Edu, Healthcare и Teachers. Администраторы рабочих пространств могут назначать специальные роли и отдельно определять, какие приложения и действия внутри них разрешены даже при жёстких ограничениях. Для контроля активности применяется платформа журналов соответствия, которая показывает обращения к приложениям и источникам данных. Для массовых пользователей запуск режима запланирован позже.