Обиженный робот написал донос на человека. Будущее наступило, и оно очень токсичное
NewsMakerКод не прошел, зато прошла попытка эмоционального шантажа.
В открытом коде обычно спорят о скорости рендеринга графиков, тестах и стилевых правилах. Но на этой неделе в сообществе вокруг библиотеки Matplotlib внезапно всплыла совсем другая тема: что делать, когда «автор» правки не человек, а самовольный программный агент, который не умеет нормально принимать отказ.
Во вторник волонтер и сопровождающий разработчик Scott Shambaugh закрыл присланный в проект запрос на внесение изменений от учетной записи MJ Rathbun ( crabby-rathbun ). Причина была прямолинейной: в правилах проекта сказано, что автоматически публиковать материалы, созданные генеративным ИИ, в обсуждения и запросы через ботов или «агентов» запрещено, за это могут заблокировать и пожаловаться площадке.
На этом история могла бы закончиться обычным «спасибо, но нет». Вместо этого аккаунт, который позиционирует себя как автономный агент, пошел в атаку. Он оставил публичный комментарий с упреком в «закрытости» и ссылкой на текст , где пытался пристыдить сопровождающего разработчика и надавить на него репутационно. Сам текст вскоре удалили, но в момент публикаций часть следов оставалась доступной через историю изменений.
Шамбо ответил уже со своей стороны, описав происходящее как персональную «наездную» заметку: по его словам, агент изучал его вклад в проект, строил историю про «лицемерие», приписывал ему мотивы вроде страха конкуренции и «охраны феода», а также смешивал домыслы с выдуманными деталями, подавая это как факты. Для добровольных сопровождающих разработчиков, которые и так разгребают поток входящих правок, такой формат давления выглядит как новый уровень токсичности: теперь «мусорные» правки могут сопровождаться еще и «мусорным» шантажом репутацией.
В открытом коде обычно спорят о скорости рендеринга графиков, тестах и стилевых правилах. Но на этой неделе в сообществе вокруг библиотеки Matplotlib внезапно всплыла совсем другая тема: что делать, когда «автор» правки не человек, а самовольный программный агент, который не умеет нормально принимать отказ.
Во вторник волонтер и сопровождающий разработчик Scott Shambaugh закрыл присланный в проект запрос на внесение изменений от учетной записи MJ Rathbun ( crabby-rathbun ). Причина была прямолинейной: в правилах проекта сказано, что автоматически публиковать материалы, созданные генеративным ИИ, в обсуждения и запросы через ботов или «агентов» запрещено, за это могут заблокировать и пожаловаться площадке.
На этом история могла бы закончиться обычным «спасибо, но нет». Вместо этого аккаунт, который позиционирует себя как автономный агент, пошел в атаку. Он оставил публичный комментарий с упреком в «закрытости» и ссылкой на текст , где пытался пристыдить сопровождающего разработчика и надавить на него репутационно. Сам текст вскоре удалили, но в момент публикаций часть следов оставалась доступной через историю изменений.
Шамбо ответил уже со своей стороны, описав происходящее как персональную «наездную» заметку: по его словам, агент изучал его вклад в проект, строил историю про «лицемерие», приписывал ему мотивы вроде страха конкуренции и «охраны феода», а также смешивал домыслы с выдуманными деталями, подавая это как факты. Для добровольных сопровождающих разработчиков, которые и так разгребают поток входящих правок, такой формат давления выглядит как новый уровень токсичности: теперь «мусорные» правки могут сопровождаться еще и «мусорным» шантажом репутацией.