В США обсуждают закон, который впервые может дать федеральным властям право остановить выпуск слишком опасной ИИ-модели до её выхода на рынок. Бипартийная группа сенаторов хочет обязать разработчиков наиболее мощных систем заранее снижать риски, связанные с биологическим и ядерным оружием, кибератаками и другими потенциально катастрофическими сценариями.
Переговоры ведут лидер республиканского большинства в Сенате Джон Тьюн, председатель сенатского комитета по торговле Тед Круз и демократ Эми Клобушар. Обсуждаемая схема вводит для разработчиков так называемую duty of care, юридическую обязанность проектировать и проверять модели с учётом известных серьёзных угроз. По сведениям участников переговоров, федеральное правительство также может получить право блокировать выпуск модели, признанной небезопасной.
До автоматического государственного запрета пока далеко. Точный объём полномочий федеральных ведомств остаётся предметом спора, а компания сможет оспорить решение в федеральном суде. Текст законопроекта ещё согласовывают, поэтому нынешние положения могут измениться до официального внесения документа.
Предлагаемые правила должны затронуть прежде всего фронтирные модели , то есть наиболее мощные системы, находящиеся на границе современных возможностей ИИ. В эту категорию сегодня попадают разработки OpenAI, Anthropic, Google и других ведущих лабораторий. Сенаторы обсуждают риски, при которых нейросеть способна помочь злоумышленнику разработать биологическое или ядерное оружие либо провести сложную кибератаку.
Один из главных споров касается самой проверки. Клобушар выступает за участие государственных специалистов и ранее подтвердила, что работает с Тьюном над федеральными правилами для наиболее рискованных ИИ-систем. Демократ Мария Кантвелл предлагает проверять самые мощные модели силами учёных и экспертов американских национальных лабораторий, а не полагаться только на внутренние тесты разработчиков.
Инфраструктура для подобных проверок в США уже существует. Центр стандартов и инноваций в области ИИ при NIST, известный как CAISI, тестирует модели на возможности, связанные с кибербезопасностью, биологическими и химическими угрозами. В июле специалисты CAISI вместе с британским AI Security Institute проверяли модель Kimi K3 и оценивали, способна ли нейросеть самостоятельно атаковать тестовую корпоративную сеть и разрабатывать эксплойты.
Отдельный конфликт возник вокруг законов штатов. Обсуждаемая федеральная норма может запретить штатам применять собственные правила к части катастрофических рисков ИИ. Кантвелл опасается, что компромисс в Вашингтоне фактически отменит более строгие региональные требования. Например, Нью-Йорк уже закрепил в законодательстве понятие катастрофического риска , куда входят помощь в создании химического, биологического, радиологического или ядерного оружия, автономные кибератаки и потеря разработчиком контроля над моделью.
Главное изменение подхода заключается в моменте вмешательства государства. Большинство прежних правил регулируют последствия применения ИИ или возлагают ответственность после нарушения. Новый вариант позволяет вмешаться ещё до публичного релиза, если проверка покажет неприемлемый уровень риска. Для OpenAI, Anthropic, Google и других разработчиков такой механизм фактически превратит безопасность самых мощных моделей из внутренней политики компании в потенциальное условие допуска на рынок.
Закон пока остаётся предметом переговоров, а времени у Конгресса немного. До промежуточных выборов 3 ноября Сенат должен провести в Вашингтоне лишь несколько полноценных рабочих недель. Поэтому даже при политическом согласии нынешняя инициатива может не успеть пройти обе палаты в текущем виде.