Некроманты из Кремниевой долины: почему Grammarly решила, что мертвые ученые — лучшие советчики
NewsMakerСервис предложил проверять научные тексты с помощью виртуальных экспертов, среди которых оказался недавно умерший историк.
Grammarly оказалась в центре скандала после того, как пользователи нашли в сервисе функцию, которая предлагает проверять научные тексты с помощью ИИ-версий реальных профессоров. Проблема в том, что среди таких «экспертов» нашлись не только живые ученые, но и люди, которых уже нет в живых.
Шум подняла медиевист Верена Кребс, профессор Рурского университета в Бохуме. В воскресенье Кребс показала скриншот инструмента Expert Review, где среди доступных экспертов для проверки статьи значился историк Дэвид Абулафия. Ситуация быстро вызвала новую волну возмущения, потому что Абулафия умер в январе.
После публикации скриншота академическое сообщество отреагировало резко. Доцент Бирмингемского университета Ванесса Хегги написала в LinkedIn, что Grammarly уже предлагает «экспертную проверку» работ силами живых и умерших ученых. По словам Хегги, компания без явного согласия создает небольшие языковые модели на основе собранных текстов исследователей, а затем использует их имена и научную репутацию. Историк Клэр Э. Обен, ведущая подкаста This Guy Sucked, назвала происходящее одним из самых жутких явлений, которые ей приходилось видеть в академической среде.
Сама Grammarly описывает Expert Review как ИИ-агента, который помогает автору соответствовать требованиям конкретной дисциплины и проекта, опираясь на выводы профильных специалистов и надежные публикации. Функция входит в набор новых ИИ-инструментов, который компания выпустила прошлым летом. Пользователь открывает документ в платформе Grammarly, выбирает Expert Review, указывает нужного эксперта и получает замечания, советы и даже переписанный вариант текста на основе предложенных правок.
Grammarly оказалась в центре скандала после того, как пользователи нашли в сервисе функцию, которая предлагает проверять научные тексты с помощью ИИ-версий реальных профессоров. Проблема в том, что среди таких «экспертов» нашлись не только живые ученые, но и люди, которых уже нет в живых.
Шум подняла медиевист Верена Кребс, профессор Рурского университета в Бохуме. В воскресенье Кребс показала скриншот инструмента Expert Review, где среди доступных экспертов для проверки статьи значился историк Дэвид Абулафия. Ситуация быстро вызвала новую волну возмущения, потому что Абулафия умер в январе.
После публикации скриншота академическое сообщество отреагировало резко. Доцент Бирмингемского университета Ванесса Хегги написала в LinkedIn, что Grammarly уже предлагает «экспертную проверку» работ силами живых и умерших ученых. По словам Хегги, компания без явного согласия создает небольшие языковые модели на основе собранных текстов исследователей, а затем использует их имена и научную репутацию. Историк Клэр Э. Обен, ведущая подкаста This Guy Sucked, назвала происходящее одним из самых жутких явлений, которые ей приходилось видеть в академической среде.
Сама Grammarly описывает Expert Review как ИИ-агента, который помогает автору соответствовать требованиям конкретной дисциплины и проекта, опираясь на выводы профильных специалистов и надежные публикации. Функция входит в набор новых ИИ-инструментов, который компания выпустила прошлым летом. Пользователь открывает документ в платформе Grammarly, выбирает Expert Review, указывает нужного эксперта и получает замечания, советы и даже переписанный вариант текста на основе предложенных правок.