Может ли ИИ уволить босса или опустошить счета компании? Глава Palo Alto Networks о рисках ИИ-агентов
NewsMakerРазбираемся, почему ведущие эксперты советуют не давать алгоритмам слишком много власти.
Искусственный интеллект, ставший незаменимым помощником в бизнесе, всё чаще воспринимается как потенциальный источник внутренних угроз. По мнению руководителя направления безопасности аналитической службы компании Palo Alto Networks Вэнди Уитмор, в 2026 году именно автономные ИИ-агенты могут представлять для компаний наибольшую опасность изнутри.
Резкий рост числа таких агентов в корпоративной среде вызывает обеспокоенность специалистов. По прогнозам аналитиков Gartner, к концу 2026 года с задачами в 40% корпоративных приложений будут справляться специализированные ИИ-системы. Ещё в 2025 году этот показатель не достигал и 5%. Такая динамика, с одной стороны, помогает частично компенсировать нехватку кадров в сфере ИБ, но с другой — создаёт новые векторы риска.
ИИ-агенты ускоряют обработку логов, выявление угроз и исправление уязвимостей, а также позволяют аналитикам фокусироваться на стратегических задачах. Однако автоматизация, выходящая за пределы контроля, оборачивается тем, что системы, созданные для защиты, могут сами стать уязвимыми. Особенно если им предоставлены широкие права доступа, что приводит к эффекту «суперпользователя» — когда агент получает возможность управлять критически важными ресурсами без ведома и участия специалистов по безопасности.
Уитмор подчёркивает важность минимизации прав доступа ИИ — по тем же принципам, что применяются к обычным сотрудникам. Проблема усугубляется и тем, что отдельные компании уже тестируют сценарии, в которых ИИ одобряет финансовые операции или подписывает документы вместо руководителей.
Искусственный интеллект, ставший незаменимым помощником в бизнесе, всё чаще воспринимается как потенциальный источник внутренних угроз. По мнению руководителя направления безопасности аналитической службы компании Palo Alto Networks Вэнди Уитмор, в 2026 году именно автономные ИИ-агенты могут представлять для компаний наибольшую опасность изнутри.
Резкий рост числа таких агентов в корпоративной среде вызывает обеспокоенность специалистов. По прогнозам аналитиков Gartner, к концу 2026 года с задачами в 40% корпоративных приложений будут справляться специализированные ИИ-системы. Ещё в 2025 году этот показатель не достигал и 5%. Такая динамика, с одной стороны, помогает частично компенсировать нехватку кадров в сфере ИБ, но с другой — создаёт новые векторы риска.
ИИ-агенты ускоряют обработку логов, выявление угроз и исправление уязвимостей, а также позволяют аналитикам фокусироваться на стратегических задачах. Однако автоматизация, выходящая за пределы контроля, оборачивается тем, что системы, созданные для защиты, могут сами стать уязвимыми. Особенно если им предоставлены широкие права доступа, что приводит к эффекту «суперпользователя» — когда агент получает возможность управлять критически важными ресурсами без ведома и участия специалистов по безопасности.
Уитмор подчёркивает важность минимизации прав доступа ИИ — по тем же принципам, что применяются к обычным сотрудникам. Проблема усугубляется и тем, что отдельные компании уже тестируют сценарии, в которых ИИ одобряет финансовые операции или подписывает документы вместо руководителей.