Берни Сандерс предлагает сажать на 20 лет за разработку сверхразумного ИИ

Сенаторы Берни Сандерс и Грег Сезар представили законопроект Ban Artificial Superintelligence Act, который должен поставить на паузу разработку самых продвинутых систем искусственного интеллекта.

Документ предусматривает наказание до 20 лет тюрьмы для компаний и отдельных разработчиков, нарушивших предусмотренные запреты. Такой срок сопоставим с ответственностью за нелегальное конструирование ядерного оружия.

Полное название инициативы звучит как "Запрет искусственного сверхинтеллекта и временная приостановка разработки продвинутого ИИ". Помимо уголовных санкций, законопроект предлагает создать новое федеральное ведомство уровня кабинета министров. Его задачей станет защита общества от рисков ИИ, включая прямой контроль за соблюдением запрета на сверхинтеллект.

Отдельным пунктом идет международная составляющая. Авторы текста считают, что США должны добиваться запрета сверхинтеллекта по всему миру через межгосударственные соглашения и координацию с союзниками. Логика здесь прямо отсылает к режиму нераспространения ядерного оружия, где односторонние ограничения без глобальных договоренностей теряют смысл.

Издание USA Today называет инициативу Сандерса самым радикальным законодательным предложением в области ИИ на сегодняшний день. Шансы на прохождение через Конгресс оцениваются невысоко, так как против, вероятно, выступят и демократы, ориентированные на интересы бизнеса, и республиканцы из окружения Трампа.

При этом риторика самой отрасли за последний год заметно сместилась. Сэм Альтман, Дарио Амодей и Илон Маск публично говорят о рисках неконтролируемого развития ИИ и о необходимости внешнего надзора, что формально сближает их позицию с требованиями законодателей.

Глава Anthropic призвал индустрию сбавить темп – через 6-12 месяцев ИИ-рой сможет захватить интернет

У этого разворота есть и циничное объяснение, которое приводят критики. Крупные лаборатории могут упираться в потолок частного финансирования, не имея понятного пути к прибыльности, и потому заинтересованы в переходе к государственной модели поддержки в духе "второго Манхэттенского проекта", где мощнейшие модели охраняет само государство.

Основной технический контраргумент против запрета сводится к доступности технологий. Современные модели с открытыми весами запускаются локально, без подключения к интернету и без гигантских дата-центров, а видеокарты, которых достаточно для их работы, стоят в пределах тысячи долларов.

Скептики отмечают три слабых места такого регулирования:

• ограничения действуют только внутри США, тогда как остальной мир продолжит разработку

• модели без каких-либо ограничителей уже распространены и удалить их из сети невозможно

• нейросети по своей природе остаются развитием обычной информатики, а не отдельным классом вооружений

По сути, глубокое обучение заменяет написанную человеком функцию приближением, которое находится итеративной подстройкой огромного количества безымянных весов. Вместо разнообразных математических операций система опирается на массовое перемножение, компенсируя все остальное объемом параметров и вычислений.

NASA и IBM выпустили открытую ИИ-модель для изучения Луны – точность выше на 23 процента

Гильермо дель Торо назвал ИИ двигателем перестановок и объяснил, почему творчество – это алхимия

Именно поэтому остановить прогресс в этой области сложнее, чем производство расщепляющихся материалов. Чтобы действительно затормозить ИИ, пришлось бы остановить выпуск более мощного железа и строительство дата-центров, а сами идеи, лежащие в основе нейросетей, сформулированы десятилетия назад и стали применимы только сейчас.

Сторонники законопроекта возражают, что национальная безопасность и гонка с другими странами выглядят второстепенными, если речь идет о рисках экзистенциального масштаба. Сандерс и Сезар предлагают зафиксировать паузу до появления работающих механизмов контроля, а не до конкретной даты.