В США представили законопроект о запрете использования ИИ для запуска ядерного оружия

Законодатели США из обеих палат Конгресса на прошлой неделе представили законопроект, который формально запрещает использование ИИ для запуска ядерного оружия.

Несмотря на то что политика Министерства обороны уже предполагает участие человека в процессе принятия подобных критических решений, новый законопроект — Закон о блокировке ядерного запуска автономным искусственным интеллектом — закрепляет эту политику, запрещая использование федеральных средств для автоматического запуска ядерного оружия без "существенного контроля со стороны человека".

Законопроект, направленный на защиту "будущих поколений от потенциально разрушительных последствий", представили сенатор Эд Марки (демократ от Массачусетса) и представители Тед Лью (демократ от Массачусетса), Дон Бейер (демократ от Вирджинии) и Кен Бак (республиканец от Колорадо). Соавторами закона в Сенате стали Джефф Меркли (демократ от Орегона), Берни Сандерс (независимый от Вермонта) и Элизабет Уоррен (демократ от Массачусетса). Марки заявил на тему законопроекта:

Поскольку мы живем в цифровом веке, нам необходимо убедиться, чтобы только люди обладали властью по управлению, контролю и запуску ядерного оружия, а не роботы. Поэтому я горжусь тем, что представляю Закон о блокировке ядерного запуска автономным искусственным интеллектом. Нам нужно сохранить участие человека в процессе принятия решений о жизни и смерти, особенно когда речь идет о самом опасном оружии.

Чат-боты на базе искусственного интеллекта (такие как популярный ChatGPT, более продвинутый GPT-4 и Google Bard), генераторы изображений и клонеры голоса завоевали мир в последние месяцы. Различные эксперты выразили опасения о том, что в случае отсутствия регулирования человечество может столкнуться с серьезными последствиями.

Хотя федеральное правительство не приняло ни одного законодательства, основанного на ИИ, с момента распространения чат-ботов на его основе, группа руководителей технологических компаний и экспертов по ИИ подписала письмо с призывом "немедленного" шестимесячного перерыва в разработке систем ИИ после GPT-4. Кроме того, администрация Байдена недавно открыла комментарии, в которых просит общественность высказаться о возможных регулированиях ИИ.

Учитывая текущую политическую обстановку в Вашингтоне, принятие даже самых здравых законопроектов не гарантируется. Тем не менее, возможно, предложение, основанное на таком фундаментальном принципе, как "не позволять компьютерам принимать решение об уничтожении человечества", послужит испытанием для определения готовности правительства США к работе с быстро развивающейся технологией.

Введение этого законопроекта подчеркивает осознание законодателями важности сохранения человеческого контроля над критическими системами, такими как ядерное оружие. Признание роли ИИ и его возможного влияния на жизнь людей может стать отправной точкой для дальнейшего регулирования и контроля развития искусственного интеллекта в других сферах, таких как безопасность, экономика и образование. Несмотря на проблемы, связанные с прохождением законопроектов, такие инициативы демонстрируют стремление правительства сформировать основные принципы взаимодействия с ИИ и выработать стратегию адаптации к быстро меняющемуся технологическому миру.