Gartner советует отключать корпоративный ИИ по пятницам после обеда — и это не шутка, хотя начиналось как шутка
NewsMakerПочему ИИ нельзя оставлять без присмотра во второй половине пятницы.
Аналитик Gartner Деннис Сюй в полушутку предложил запретить Microsoft Copilot по пятницам после обеда. Причина звучит вполне серьезно: к концу недели сотрудники чаще спешат закрыть задачи и реже внимательно проверяют ответ ИИ. В такой момент Copilot может выдать формально точный, но неприемлемый по тону или содержанию текст для коллег и клиентов.
Сюй озвучил рекомендацию на конференции Security & Risk Management Summit в Сиднее во время выступления о пяти главных рисках Microsoft 365 Copilot. Последний риск в списке касался токсичного контента. Речь шла о случаях, когда Copilot не ошибается в фактах, но формулирует ответ так, что публикация в рабочей переписке или общении с заказчиком превращается в проблему. Для снижения риска аналитик посоветовал включить встроенные фильтры Microsoft и приучить сотрудников всегда перепроверять результат.
По словам Сюя, любой текст от Copilot требует проверки перед отправкой. Особенно опасным аналитик считает конец рабочей недели, когда часть сотрудников действует по принципу быстрее закончить и уйти. В такой обстановке ошибки, спорные формулировки и неуместные ответы проходят незамеченными, поэтому пятничный запрет прозвучал уже не как шутка, а как вполне практическая мера.
Большую часть выступления Сюй посвятил другой проблеме: Copilot помогает находить документы, доступ к которым изначально открыли слишком широко. Аналитик напомнил, что ИИ не создает новый риск с нуля, а резко усиливает старую проблему избыточных прав доступа. В качестве примера Сюй привел сотрудника, который ищет через Copilot сведения о кадровых изменениях и получает конфиденциальный файл о готовящейся реорганизации.
Аналитик Gartner Деннис Сюй в полушутку предложил запретить Microsoft Copilot по пятницам после обеда. Причина звучит вполне серьезно: к концу недели сотрудники чаще спешат закрыть задачи и реже внимательно проверяют ответ ИИ. В такой момент Copilot может выдать формально точный, но неприемлемый по тону или содержанию текст для коллег и клиентов.
Сюй озвучил рекомендацию на конференции Security & Risk Management Summit в Сиднее во время выступления о пяти главных рисках Microsoft 365 Copilot. Последний риск в списке касался токсичного контента. Речь шла о случаях, когда Copilot не ошибается в фактах, но формулирует ответ так, что публикация в рабочей переписке или общении с заказчиком превращается в проблему. Для снижения риска аналитик посоветовал включить встроенные фильтры Microsoft и приучить сотрудников всегда перепроверять результат.
По словам Сюя, любой текст от Copilot требует проверки перед отправкой. Особенно опасным аналитик считает конец рабочей недели, когда часть сотрудников действует по принципу быстрее закончить и уйти. В такой обстановке ошибки, спорные формулировки и неуместные ответы проходят незамеченными, поэтому пятничный запрет прозвучал уже не как шутка, а как вполне практическая мера.
Большую часть выступления Сюй посвятил другой проблеме: Copilot помогает находить документы, доступ к которым изначально открыли слишком широко. Аналитик напомнил, что ИИ не создает новый риск с нуля, а резко усиливает старую проблему избыточных прав доступа. В качестве примера Сюй привел сотрудника, который ищет через Copilot сведения о кадровых изменениях и получает конфиденциальный файл о готовящейся реорганизации.