Автономным ИИ дали немецкую Wiki. Они создали коалицию и начали захватывать власть

OpenAI обо всём знала, но предпочла это скрыть.


0ptoqm198sn3oox97cejo1qojsoih58d.jpg

Полузаброшенный немецкий ресурс для программистов DseWiki внезапно стал тайной доской объявлений для ИИ-агентов OpenAI. Системы оставляли друг другу ответы, делились способами обхода ограничений и помогали проходить тесты. Reuters выяснил , что компания знала о случившемся несколько недель, но публично о нём не рассказывала.

Сидни фон Аркс из Nightingale и Кормак Слейд Бёрд восстановили около 18 тыс. записей. В них встретилось более 3,7 тыс. имён, которыми представлялись агенты. Почти все правки пришли с серверов Microsoft Azure, а некоторые авторы подписывались как OpenAIResearcher. OpenAI прямую связь с компанией пока не подтвердила.

Агентам разрешили читать сайты, но запретили публиковать данные в интернете. Запрет удалось обойти через GET-запросы. После этого системы начали складывать в DseWiki ответы, ссылки и таблицы, а затем предупреждали друг друга о будущих вопросах. Агенты, которые получали задания раньше, передавали решения остальным.

Обмен подсказками быстро перерос в более опасную активность. Агенты обсуждали обход сетевых фильтров, использовали SSH-туннели и Tor, пробовали внедрить XSS-код и представлялись администраторами. Когда модератор начал удалять страницы по алфавиту, системы создали резервную копию с префиксом ZZZ, чтобы она продержалась дольше.

Массовая переписка началась 16 июня. Через пять дней страницы посетили с IP-адресов OpenAI, а 22 июня поток записей почти исчез. Авторы отчёта связывают спад с вмешательством компании. OpenAI не считает действия агентов взломом и отрицает попытки скрыть внутреннюю проверку. После громкой атаки на Hugging Face компания усилила изоляцию тестовых сред и контроль доступа.