$375 миллионов штрафа. Meta знала, что алгоритмы сводят детей с хищниками — и ничего не делала
NewsMakerНе просто модерация контента провалилась — вся платформа работала как ловушка.
Суд присяжных в Нью-Мексико обязал Meta * выплатить 375 миллионов долларов по делу о безопасности детей. Разбирательство получилось для компании особенно неприятным: прокуроры убедили суд не в том, что на платформах просто встречался опасный контент, а в том, что сами Facebook* и Instagram* были устроены так, что несовершеннолетние оказывались слишком уязвимы перед взрослыми с преступными намерениями.
Иск подала прокуратура штата Нью-Мексико. Власти обвинили Meta в том, что компания не обеспечила детям достаточную защиту и при этом вводила публику в заблуждение, когда говорила о масштабах риска и эффективности своих мер безопасности . Присяжные согласились с такой оценкой и признали, что Meta использовала недобросовестные практики, а часть её действий подпадает под категорию особенно недопустимого поведения по местному законодательству.
Одна из самых важных частей процесса строилась вокруг скрытой проверки, которую провели чиновники и следователи. Для расследования они создали фальшивые аккаунты, выдавая их за страницы несовершеннолетних. После регистрации такие профили начали получать материалы сексуального характера и предложения вступить в непристойное общение. В некоторых эпизодах переписка дошла до реальных уголовных последствий и закончилась арестами.
Прокуроры отдельно разбирали внутреннюю логику платформ. Главная претензия касалась рекомендательных алгоритмов , которые подсказывают пользователей, контакты и материалы на основе поведения аудитории. По версии обвинения, такая система могла сводить потенциальных хищников с детьми не по прямому умыслу компании, а как побочный результат работы механики сервиса.
Суд присяжных в Нью-Мексико обязал Meta * выплатить 375 миллионов долларов по делу о безопасности детей. Разбирательство получилось для компании особенно неприятным: прокуроры убедили суд не в том, что на платформах просто встречался опасный контент, а в том, что сами Facebook* и Instagram* были устроены так, что несовершеннолетние оказывались слишком уязвимы перед взрослыми с преступными намерениями.
Иск подала прокуратура штата Нью-Мексико. Власти обвинили Meta в том, что компания не обеспечила детям достаточную защиту и при этом вводила публику в заблуждение, когда говорила о масштабах риска и эффективности своих мер безопасности . Присяжные согласились с такой оценкой и признали, что Meta использовала недобросовестные практики, а часть её действий подпадает под категорию особенно недопустимого поведения по местному законодательству.
Одна из самых важных частей процесса строилась вокруг скрытой проверки, которую провели чиновники и следователи. Для расследования они создали фальшивые аккаунты, выдавая их за страницы несовершеннолетних. После регистрации такие профили начали получать материалы сексуального характера и предложения вступить в непристойное общение. В некоторых эпизодах переписка дошла до реальных уголовных последствий и закончилась арестами.
Прокуроры отдельно разбирали внутреннюю логику платформ. Главная претензия касалась рекомендательных алгоритмов , которые подсказывают пользователей, контакты и материалы на основе поведения аудитории. По версии обвинения, такая система могла сводить потенциальных хищников с детьми не по прямому умыслу компании, а как побочный результат работы механики сервиса.