Видео из туалета, секс и чужая спальня. Так выглядит обучение ИИ, который становится умнее каждый день
NewsMakerТехнологический прорыв требует участия сотен невольных вуайеристов.
Компания Meta* снова столкнулась с неприятными вопросами о том, кто и как обучает её ИИ. На этот раз скандал возник вокруг умных очков: сотрудники подрядчика в Кении заявили, что во время разметки данных видели слишком личные видео пользователей, а вскоре после публикации этих рассказов Meta разорвала крупный контракт с их работодателем.
Речь идёт о компании Sama, кенийские сотрудники которой размечали данные для Meta. В феврале шведские издания Svenska Dagbladet и Goteborgs-Posten выпустили совместное расследование с рассказами работников. По их словам, среди материалов с умных очков попадались записи из туалета, сцены с обнажёнными людьми и даже интимные эпизоды. Такие ролики могли попасть на проверку после того, как пользователи делились контентом с Meta AI.
Meta признала, что подрядчики иногда просматривают материалы с очков, если пользователи дали согласие на передачу данных для улучшения продукта. После публикаций британский регулятор по защите данных направил компании запрос, а кенийское Управление комиссара по защите данных начало проверку возможных нарушений приватности .
Менее чем через два месяца после расследования Meta прекратила сотрудничество с Sama. По данным подрядчика, из-за этого работу потеряют 1108 человек. Meta объяснила решение тем, что Sama якобы не соответствовала её стандартам. В Sama с такой оценкой не согласились и заявили, что выполняли требования клиентов по безопасности, качеству и операционной работе.
Africa Tech Workers Movement считает, что контракт могли закрыть из-за публичных жалоб сотрудников. Представитель организации Нафтали Вамбало, участвующий в судебном процессе по прежней работе Sama с модерацией Facebook*, связал решение Meta с нежеланием компании раскрывать участие людей в проверке данных с умных очков. Meta на это обвинение не ответила.
Очки Meta выпускают вместе с Ray-Ban и Oakley. Устройства переводят текст, отвечают на вопросы о том, что видит пользователь, и могут помогать людям с нарушениями зрения. При записи на оправе загорается индикатор, но опасения из-за скрытой съёмки сохраняются. В Кении такие очки уже связывали с несогласованной записью женщин.
История с Sama напомнила о прежнем споре вокруг модерации Facebook. Бывшие сотрудники подрядчика жаловались на травмирующий контент и подали иски. Юрист Мерси Мутеми, представляющая заявителей, считает, что новый скандал показывает слабость модели, на которой Кения пытается строить участие в индустрии ИИ.
* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.
Компания Meta* снова столкнулась с неприятными вопросами о том, кто и как обучает её ИИ. На этот раз скандал возник вокруг умных очков: сотрудники подрядчика в Кении заявили, что во время разметки данных видели слишком личные видео пользователей, а вскоре после публикации этих рассказов Meta разорвала крупный контракт с их работодателем.
Речь идёт о компании Sama, кенийские сотрудники которой размечали данные для Meta. В феврале шведские издания Svenska Dagbladet и Goteborgs-Posten выпустили совместное расследование с рассказами работников. По их словам, среди материалов с умных очков попадались записи из туалета, сцены с обнажёнными людьми и даже интимные эпизоды. Такие ролики могли попасть на проверку после того, как пользователи делились контентом с Meta AI.
Meta признала, что подрядчики иногда просматривают материалы с очков, если пользователи дали согласие на передачу данных для улучшения продукта. После публикаций британский регулятор по защите данных направил компании запрос, а кенийское Управление комиссара по защите данных начало проверку возможных нарушений приватности .
Менее чем через два месяца после расследования Meta прекратила сотрудничество с Sama. По данным подрядчика, из-за этого работу потеряют 1108 человек. Meta объяснила решение тем, что Sama якобы не соответствовала её стандартам. В Sama с такой оценкой не согласились и заявили, что выполняли требования клиентов по безопасности, качеству и операционной работе.
Africa Tech Workers Movement считает, что контракт могли закрыть из-за публичных жалоб сотрудников. Представитель организации Нафтали Вамбало, участвующий в судебном процессе по прежней работе Sama с модерацией Facebook*, связал решение Meta с нежеланием компании раскрывать участие людей в проверке данных с умных очков. Meta на это обвинение не ответила.
Очки Meta выпускают вместе с Ray-Ban и Oakley. Устройства переводят текст, отвечают на вопросы о том, что видит пользователь, и могут помогать людям с нарушениями зрения. При записи на оправе загорается индикатор, но опасения из-за скрытой съёмки сохраняются. В Кении такие очки уже связывали с несогласованной записью женщин.
История с Sama напомнила о прежнем споре вокруг модерации Facebook. Бывшие сотрудники подрядчика жаловались на травмирующий контент и подали иски. Юрист Мерси Мутеми, представляющая заявителей, считает, что новый скандал показывает слабость модели, на которой Кения пытается строить участие в индустрии ИИ.
* Компания Meta и её продукты признаны экстремистскими, их деятельность запрещена на территории РФ.