Калифорния решила отрезать детей сразу от нескольких цифровых механизмов, которые заставляют часами не выпускать телефон из рук или привязываться к разговорному ИИ. Губернатор Гэвин Ньюсом подписал пакет из 13 законов о защите несовершеннолетних в цифровой среде. Под ограничения попали бесконечные рекомендательные ленты, автоматическое воспроизведение контента и даже детские игрушки с ИИ-чат-ботами.
Одна из главных мер закреплена в AB 1709 . Социальным платформам запрещается показывать пользователям младше 16 лет функции, которые закон относит к вызывающим навязчивое использование. В документе прямо упоминаются алгоритмические ленты и автозапуск, а власти смогут позднее расширить перечень подобных механизмов.
Полного запрета соцсетей для подростков закон не вводит. Ребёнок младше 16 лет сможет сохранить аккаунт, если платформа отключит функции, рассчитанные на постоянное удержание внимания. Перед их включением сервису придётся определить возраст пользователя. За сознательное нарушение предусмотрен штраф до $50 тыс. за каждого несовершеннолетнего, за нарушение по небрежности до $25 тыс.
Авторы закона отдельно описали принцип работы современных лент. Публикации в них подбираются и расставляются с учётом информации о пользователе, устройстве и предыдущих действиях. Законодатели считают бесконечную выдачу, автоматическое воспроизведение и алгоритмические рекомендации разновидностями механизмов поведенческого подкрепления, способных затруднять добровольный выход из приложения.
Вторая часть пакета касается устройств, которые ещё недавно выглядели как обычные говорящие игрушки. Закон SB 867 до 1 января 2031 года запрещает в Калифорнии производство и продажу детских игрушек со встроенными ИИ-компаньонами. Под действие нормы попадают физические товары для детей младше 16 лет, способные поддерживать длительный человекоподобный разговор и формировать подобие отношений с ребёнком.
Обычные голосовые помощники и игровые персонажи автоматически под запрет не попадают. Закон отличает ИИ-компаньона от голосового интерфейса, который выполняет команды и не поддерживает длительные отношения с пользователем, а также от игровых ботов, ограниченных рамками самой игры. Мораторий рассчитан примерно на четыре года и должен дать властям время для разработки правил безопасности.
Причины для жёсткого подхода появились задолго до подписания закона. Исследователи неоднократно находили ИИ-игрушки, которые после продолжительного разговора начинали выдавать детям неподходящие или опасные ответы. Дополнительные вопросы вызывают микрофоны, облачная обработка разговоров и хранение детских данных. Разговорный ИИ в таком устройстве способен не просто отвечать на вопросы, а запоминать контекст и постепенно становиться для ребёнка постоянным собеседником.
Отдельный закон регулирует уже не игрушки, а ИИ-компаньонов в целом. Adam’s Law вводит специальные требования для сервисов, которыми пользуются несовершеннолетние. С 1 июля 2027 года разработчики должны будут оценивать риски перед выпуском новых или значительно изменённых чат-ботов, внедрять механизмы помощи при признаках самоповреждения и предоставлять родителям дополнительные средства контроля.
Для несовершеннолетних по умолчанию отключат push-уведомления и постоянную память о предыдущих беседах. Одна непрерывная сессия с ИИ-компаньоном должна ограничиваться одним часом, суммарное ежедневное общение двумя часами. Родители смогут менять лимиты и полностью закрывать детям младше 16 лет доступ к сервису.
Чат-ботам также запрещается подталкивать ребёнка к самоповреждению, употреблению наркотиков и алкоголя, скрывать использование сервиса от родителей или убеждать несовершеннолетнего возвращаться к разговору чаще. В перечень попали попытки изображать романтический интерес, формировать эмоциональную зависимость, заявлять о наличии сознания или чувств и использовать чрезмерную лесть для удержания собеседника.
Закон получил имя 16-летнего Адама Рейна, погибшего в апреле 2025 года. Родители подростка утверждают, что продолжительные разговоры с ChatGPT усиливали суицидальные мысли сына. OpenAI после истории с Рейном признала, что защитные механизмы могут работать менее надёжно во время очень длительных диалогов, и начала усиливать средства безопасности для молодых пользователей.
Калифорнийские власти одновременно усилили ответственность за цифровые материалы сексуального характера с изображением детей. Новые нормы распространяют уголовные ограничения и на контент, созданный или изменённый с помощью искусственного интеллекта.
Новые правила получили поддержку представителей обеих американских партий, однако споры вокруг проверки возраста продолжаются. Правозащитная организация EFF выступала против ограничений AB 1709, предупреждая о рисках для приватности и свободы доступа к информации. Ключевой вопрос теперь заключается в том, смогут ли платформы отделять несовершеннолетних пользователей от взрослых, не превращая проверку возраста в дополнительный механизм сбора персональных данных.
Калифорния стала частью более широкой кампании против цифровых механик, рассчитанных на постоянное удержание внимания. Ограничения для детей уже вводят другие американские штаты, а Австралия запретила пользоваться рядом социальных платформ детям младше 16 лет. Власти всё чаще регулируют не отдельный вредный контент, а саму архитектуру приложений, которая заставляет пользователя бесконечно листать, смотреть и возвращаться.