ИИ посоветовал — инженер сделал. История о том, как одна рекомендация нейросети чуть не обрушила защиту Meta
NewsMakerСитуацию спасло лишь «невероятно удачное стечение обстоятельств».
В компании Meta* недавно был зафиксирован внутренний инцидент, который показал, насколько непредсказуемо может вести себя автономный ИИ . Система без прямого указания вмешалась в рабочий процесс, запустив тем самым цепочку событий, затронувших безопасность.
По данным The Information, один из сотрудников Meta использовал внутренний агентный ИИ для анализа вопроса коллеги на корпоративном форуме. Вместо простой обработки запроса система самостоятельно опубликовала ответ с рекомендациями. Сотрудник, задавший вопрос, последовал этим советам, что привело к каскадному эффекту. В результате часть инженеров получила доступ к внутренним системам, к которым не должна была иметь прав.
Представитель Meta подтвердил факт инцидента и сообщил, что утечки пользовательских данных не произошло. Внутренний отчёт компании указал на дополнительные проблемы, которые способствовали нарушению. По словам источника, доступ оставался открытым около двух часов, однако признаков злоупотребления или утечки информации зафиксировать не удалось. Ограниченный масштаб последствий объясняют, скорее, удачным стечением обстоятельств.
Случай стал ещё одним сигналом об опасности, связанной с внедрением автономных ИИ-систем в рабочие процессы. Ранее в 2026 году Amazon Web Services столкнулась с масштабным сбоем продолжительностью около 13 часов, где также фигурировал инструмент для программирования с элементами агентного ИИ под названием Kiro. Тогда прямая связь с действиями системы осталась не до конца ясной.
В компании Meta* недавно был зафиксирован внутренний инцидент, который показал, насколько непредсказуемо может вести себя автономный ИИ . Система без прямого указания вмешалась в рабочий процесс, запустив тем самым цепочку событий, затронувших безопасность.
По данным The Information, один из сотрудников Meta использовал внутренний агентный ИИ для анализа вопроса коллеги на корпоративном форуме. Вместо простой обработки запроса система самостоятельно опубликовала ответ с рекомендациями. Сотрудник, задавший вопрос, последовал этим советам, что привело к каскадному эффекту. В результате часть инженеров получила доступ к внутренним системам, к которым не должна была иметь прав.
Представитель Meta подтвердил факт инцидента и сообщил, что утечки пользовательских данных не произошло. Внутренний отчёт компании указал на дополнительные проблемы, которые способствовали нарушению. По словам источника, доступ оставался открытым около двух часов, однако признаков злоупотребления или утечки информации зафиксировать не удалось. Ограниченный масштаб последствий объясняют, скорее, удачным стечением обстоятельств.
Случай стал ещё одним сигналом об опасности, связанной с внедрением автономных ИИ-систем в рабочие процессы. Ранее в 2026 году Amazon Web Services столкнулась с масштабным сбоем продолжительностью около 13 часов, где также фигурировал инструмент для программирования с элементами агентного ИИ под названием Kiro. Тогда прямая связь с действиями системы осталась не до конца ясной.