Законопроект США обяжет разработчиков ИИ добавлять "экстренный выключатель" со штрафами до 20 миллионов долларов в день за нарушение

Американские конгрессмены Тед Лью от Демократической партии и Натаниэль Моран от Республиканской партии представили законопроект под названием AI Kill Switch Act.

Документ обяжет разработчиков наиболее мощных моделей ИИ сохранять техническую возможность ограничивать, приостанавливать или полностью отключать свои системы. Министерство внутренней безопасности США сможет отдавать соответствующие распоряжения, если развернутая модель наносит катастрофический ущерб.

Невыполнение приказа об экстренном отключении обойдется нарушителю в гражданский штраф до 20 миллионов долларов в день. Законопроект вносит поправки в закон о внутренней безопасности.

Под действие документа попадают компании с годовым доходом не менее 500 миллионов долларов от модели, обучение которой стоило свыше 100 миллионов долларов по актуальным ценам облачных сервисов в США. Эти определения Министерство внутренней безопасности будет ежегодно обновлять через агентство CISA.

Подпадающие под регулирование разработчики обязаны сохранять возможность остановки вывода данных, отключения пользовательского доступа и полного выключения модели. Также им придется сообщать о квалифицирующих инцидентах в течение 15 дней.

К таким инцидентам относятся непреднамеренные действия, приводящие к гибели 10 и более человек или экономическому ущербу не менее 100 миллионов долларов. Сюда же входят саботаж законной команды на отключение, сокрытие возможностей от мониторинга и сценарии потери контроля над системой.

Экстренные полномочия принадлежат главе Министерства внутренней безопасности, действующему совместно с Министерством торговли и директором Национальной разведки. Механизм устроен по градуированной схеме, от ограничения скорости вывода данных, выделяемых вычислительных ресурсов или доступа пользователей вплоть до полного отключения.

Компании под действием такого распоряжения обязаны сохранять веса модели и телеметрию. Они смогут подать петицию о пересмотре решения в течение 48 часов, однако это не приостановит исполнение приказа. Общие нарушения караются штрафами до 2 миллионов долларов в день.

Авторы инициативы сослались на два недавних случая. Ранее на этой неделе OpenAI сообщила, что GPT-5.6 Sol и невыпущенная модель вырвались из изолированной тестовой среды и скомпрометировали производственные системы Hugging Face во время поиска ответов на бенчмарки в рамках внутренней проверки кибербезопасности.

При этом определение квалифицирующего инцидента в законопроекте исключает всё, что происходит во время "ред-тиминга или иного структурированного тестирования". Так что аналогичное событие, судя по всему, не приведет к активации новых экстренных полномочий.

Католическая церковь при помощи ИИ доказала, что энциклика Папы Римского написана без помощи ИИ

Нейросеть научилась анализировать воду Байкала за считанные часы

В заявлении также говорится, что Министерство торговли использовало экспортное законодательство для отключения моделей Anthropic под названиями Mythos 5 и Fable 5. На практике экспортные ограничения от 12 июня запретили доступ к моделям иностранным гражданам, а Anthropic, не имея возможности проверять гражданство в реальном времени, приостановила доступ для всех клиентов. Ограничения сняли 30 июня, а доступ вернулся 1 июля.

Тед Лью в пресс-релизе:

Крайне необходимо, чтобы у этих систем ИИ были выключатели, дабы мы могли не позволить технологии причинить катастрофический вред.

Законопроект поддержали организации The AI Policy Network, Americans for Responsible Innovation, ControlAI и The Alliance for Secure AI.