Федеральные власти США задумались о том, можно ли наказывать разработчиков искусственного интеллекта за политически окрашенные ответы их систем. Идея уже вызвала редкое единодушие среди критиков из разных политических лагерей, которые опасаются, что борьба с предвзятостью превратится в государственный контроль над тем, какие ответы разрешено давать ИИ.
Федеральная торговая комиссия США (FTC) предложила считать идеологическую предвзятость систем искусственного интеллекта «недобросовестной или вводящей в заблуждение практикой» в рамках статьи 5 Закона о Федеральной торговой комиссии. Ведомство исходит из того, что пользователи вправе ожидать от ИИ информации без идеологических манипуляций. Такой подход потенциально позволит комиссии проверять даже данные для обучения моделей и другие материалы, от которых зависят ответы алгоритмов.
Главная проблема предложения заключается в том, что комиссия пока не объяснила, как именно собирается определять идеологическую предвзятость. Одновременно ведомство предполагает, что федеральные правила смогут иметь приоритет перед законами отдельных штатов. В документе прямо упоминается закон Колорадо об искусственном интеллекте , который предписывает оценивать риски, раскрывать информацию и проверять модели на предвзятость перед тем, как их выпускать. Закон должен вступить в силу в 2027 году, хотя законодатели штата уже обсуждают, как смягчить требования.
Предложение собрало более 300 публичных отзывов от отраслевых объединений, аналитических центров, отдельных специалистов и членов Конгресса. Многие авторы считают формулировки слишком расплывчатыми и опасаются, что власти смогут использовать новые полномочия для политического давления на разработчиков. International Center for Law and Economics указал, что комиссия почти не объясняет, где проходит граница между защитой потребителей и правом самих компаний определять характер ответов своих систем.
Критики также спорят с самой попыткой приравнять политическую окраску ответа ИИ к тому, что потребителя обманывают. Представители Cato Institute считают, что комиссия смешивает два разных вопроса: то, что рекламу используют для фактического обмана, и то, насколько субъективно можно оценивать точность или идеологическую направленность ответов модели. R Street Foundation добавляет, что многие крупные языковые модели уже предупреждают пользователей об ограничениях своих ответов, поэтому доказать, что потребителя действительно ввели в заблуждение, может оказаться сложно.
При этом сторонники инициативы тоже нашлись. Консервативная организация America First Legal Foundation призвала принять документ полностью, заявив, что модели OpenAI и Anthropic якобы склонны представлять либеральные и прогрессивные взгляды как нейтральные. Однако авторы предложения Федеральной торговой комиссии сами столкнулись с обвинениями в избирательности. Anthropic упоминается в примечаниях документа более шести раз, тогда как xAI и Илон Маск не названы, хотя Маск публично вмешивался в поведение Grok после ответов модели, которые его не устраивали.
Отдельная дискуссия касается реальных манипуляций с данными. Бывшая сотрудница Белого дома и Министерства внутренней безопасности США Лиа Сискайнд указывает, что большие языковые модели действительно могут воспроизводить пропаганду и дезинформацию, попавшую в обучающие наборы данных. По ее оценке, вопрос о том, насколько точен ИИ, и о том, как защитить данные от намеренного искажения, заслуживает того, чтобы его регулировали отдельно, однако нынешнее предложение комиссии сосредоточено прежде всего на идеологических оценках и споре между федеральными властями и штатами.
Члены Палаты представителей Джош Готтхаймер и Майкл Лоулер отдельно попросили комиссию не мешать разработчикам бороться с дискриминацией по расе, религии, полу, возрасту и другим защищенным законом признакам. Главный страх противников инициативы остается шире конкретного документа . Если государство получит право определять, какие ответы ИИ считать идеологически допустимыми, тем же механизмом смогут воспользоваться и будущие администрации с совершенно другими политическими взглядами.