Ваши секреты теперь в выдаче по второй ссылке. Рассказываем о «безопасности» современных чат-ботов
NewsMakerХотели написать книгу с помощью ИИ, а написали ее для всего интернета.
Разговоры пользователей с чат-ботом Claude неожиданно оказались в открытом доступе через поиск Google. Сотни диалогов можно было найти так же просто, как обычные страницы сайтов. Позже они исчезли из выдачи, но сама ситуация уже стала поводом для вопросов к разработчикам и поисковикам.
Компания Anthropic стала уже третьим разработчиком систем искусственного интеллекта, у которого переписка пользователей с ботом попала в результаты поиска. Ранее похожие случаи произошли с ChatGPT и Grok. Речь идет о диалогах, которыми пользователи делились через встроенную функцию «поделиться». Сервис создавал отдельную страницу с перепиской, на которую можно было отправить ссылку другим людям.
В Anthropic утверждают, что такие страницы были закрыты от индексации поисковыми роботами Google и других систем. Несмотря на это, поисковик обнаружил и добавил в базу почти 600 диалогов. Среди них были запросы сотрудников самой компании на создание приложений, игр и даже шуточного «симулятора офиса Anthropic». Другие пользователи просили бота писать книги, помогать с программированием и выполнять рабочие задания. В ряде случаев в тексте встречались имена людей и адреса электронной почты, а иногда и другие данные, по которым можно установить личность.
Представитель Anthropic Гэбби Кертис заявил Forbes, что страницы стали видны в поиске только потому, что сами пользователи размещали ссылки на переписку в интернете или социальных сетях. По его словам, компания не публикует каталоги таких страниц и не передает их поисковым системам, а также прямо запрещает их обход в служебных настройках сайта.
Разговоры пользователей с чат-ботом Claude неожиданно оказались в открытом доступе через поиск Google. Сотни диалогов можно было найти так же просто, как обычные страницы сайтов. Позже они исчезли из выдачи, но сама ситуация уже стала поводом для вопросов к разработчикам и поисковикам.
Компания Anthropic стала уже третьим разработчиком систем искусственного интеллекта, у которого переписка пользователей с ботом попала в результаты поиска. Ранее похожие случаи произошли с ChatGPT и Grok. Речь идет о диалогах, которыми пользователи делились через встроенную функцию «поделиться». Сервис создавал отдельную страницу с перепиской, на которую можно было отправить ссылку другим людям.
В Anthropic утверждают, что такие страницы были закрыты от индексации поисковыми роботами Google и других систем. Несмотря на это, поисковик обнаружил и добавил в базу почти 600 диалогов. Среди них были запросы сотрудников самой компании на создание приложений, игр и даже шуточного «симулятора офиса Anthropic». Другие пользователи просили бота писать книги, помогать с программированием и выполнять рабочие задания. В ряде случаев в тексте встречались имена людей и адреса электронной почты, а иногда и другие данные, по которым можно установить личность.
Представитель Anthropic Гэбби Кертис заявил Forbes, что страницы стали видны в поиске только потому, что сами пользователи размещали ссылки на переписку в интернете или социальных сетях. По его словам, компания не публикует каталоги таких страниц и не передает их поисковым системам, а также прямо запрещает их обход в служебных настройках сайта.