В Кремниевой долине растет недоверие к Anthropic. Основателей молодых компаний раздражает, что разработчик Claude выпускает собственные инструменты в тех же областях, где работают его партнеры, а предупреждения компании об опасности открытых моделей все чаще воспринимают как попытку ослабить конкурентов.
Как пишет The Wall Street Journal, напряжение усилилось после выхода Claude Design в апреле. Некоторые участники рынка посчитали новый инструмент прямым конкурентом сервисов Figma, хотя разработчик программ для дизайна сотрудничает с Anthropic. На одном из мероприятий глава Figma Дилан Филд заявил, что Anthropic не всегда вела себя честно при общении с партнерами.
Руководитель направления искусственного интеллекта в Notion Сара Сакс, присутствовавшая на встрече, отметила, что отрасль сделала из случившегося выводы. По ее словам, некоторые компании могли доверять Anthropic слишком сильно.
После запуска Claude Design часть молодых компаний начала присматриваться к более дешевым моделям с открытыми весами. Такие системы позволяют устанавливать модель на собственной инфраструктуре, настраивать ее под конкретные задачи и добавлять свои средства защиты. За последние месяцы заметную популярность получили разработки китайских компаний, возможности которых приблизились к передовым американским системам.
Критики также недовольны тем, как Anthropic предупреждает об угрозах открытых моделей. Заместитель декана инженерной школы Колумбийского университета Вишал Мисра признал высокое качество продуктов компании, но назвал ее заявления о безопасности недостаточно убедительными. По его мнению, Anthropic разжигает страх перед открытыми системами, чтобы получить больше влияния на правила, выгодные самой компании.
Anthropic отвергает такие обвинения. Представитель разработчика заявил, что ограничения нужны, чтобы защищать модели и предотвращать их применение иностранными противниками в опасных целях. Глава компании Дарио Амодеи и другие руководители неоднократно призывали власти внимательнее следить за мощными системами с открытыми весами.
После того как NVIDIA, Microsoft и десятки других компаний подписали совместное письмо в поддержку открытых моделей, Амодеи отдельно изложил позицию Anthropic. Он заявил, что компания никогда не призывала запрещать такие системы и считает общественным благом модели, у которых нет опасных возможностей.
Доводы Anthropic поддерживают не все. Часть чиновников и представителей отрасли подозревает, что разговоры об угрозах помогают компании сдерживать соперников, чьи более дешевые модели способны снизить спрос на Claude. Дополнительное внимание к конфликту привлекли сообщения о том, что Anthropic может выйти на биржу уже осенью.
Доцент Университета Торонто Кевин Брайан встал на сторону компании. По его словам, опасения вокруг публикации передовых моделей действительно разделяют многие специалисты. После свободного выпуска систему быстро пытаются лишить встроенных ограничений, а вернуть уже опубликованную модель под контроль невозможно.
Еще один спор связан с тем, как обучают модели. Сооснователь компании Maple Марк Суман обвинил Anthropic в двойных стандартах. По его мнению, разработчик выступает против копирования возможностей чужих систем, хотя сам обучал свои модели на огромных массивах интернет-данных без выплат всем владельцам материалов.
Совместное письмо в поддержку открытых моделей подписали уже более 70 компаний Кремниевой долины. OpenAI присоединилась к инициативе через несколько часов после публикации, позднее поддержку выразила Google. Anthropic осталась одной из немногих крупных компаний отрасли, которые не поставили подпись.
На этом фоне предприниматели и чиновники опасаются, что рынок искусственного интеллекта постепенно разделят Anthropic и OpenAI. Опасения возможного господства двух компаний стали главной темой акции в центре Сан-Франциско, которую помог организовать руководитель Hugging Face. Участники призвали разработчиков не сосредотачивать самые мощные технологии в руках нескольких закрытых лабораторий.
Недоверие усилилось в июне после выпуска Fable 5, ограниченной версии более мощной модели Claude Mythos . Система незаметно снижала качество ответов на некоторые вопросы о разработке искусственного интеллекта. Пользователей заранее не предупреждали, поэтому специалисты назвали такую защиту непрозрачной и мешающей независимо оценивать возможности модели.
Anthropic позже извинилась и сделала предупреждения об ограничениях видимыми. При этом компания сохранила отказ отвечать на запросы, которые считает опасными.
Дополнительное недовольство вызвала политика хранения данных. Fable 5 не поддерживает режим полного отказа от сохранения информации и может хранить пользовательские запросы до 30 дней, чтобы проверять безопасность. Изменение встревожило компании, работающие с конфиденциальными сведениями. Некоторые клиенты также опасаются, что их данные помогут Anthropic улучшать модели и создавать новые продукты, конкурирующие с сервисами самих заказчиков.
Представитель Anthropic заверил , что сотрудники не могут просматривать сохраненные переписки, а компания не использует их, чтобы обучать новые модели. Правила распространяются только на самые мощные системы Fable и Mythos и не затрагивают остальные продукты разработчика.