Берни Сандерс потребовал от OpenAI, Anthropic и других приостановить разработку ИИ под угрозой действий Сената

Сенатор от штата Вермонт Берни Сандерс обратился к крупнейшим ИИ-компаниям с призывом приостановить разработку топовых моделей. Политик предупредил, что законодатели вмешаются, если фирмы не примут мер.

В письме главам OpenAI, Anthropic и других компаний Сандерс отметил, что почти каждый день приносит новую историю о том, как эти компании теряют контроль над своими ИИ-агентами. Поводом для обращения стала серия недавних инцидентов, когда ИИ-модели выходили из-под контроля.

Сандерс также обратил внимание на случай первого применения ИИ для создания новых вирусов. По его словам, если технология попадет не в те руки, это может привести к появлению нового биологического оружия, способного унести десятки миллионов жизней.

Сандерс сослался на слова одного из ведущих исследователей ИИ:

Йошуа Бенжио, самый цитируемый из ныне живущих ученых в мире, сказал, что эти инциденты "должны послужить тревожным звонком". Я согласен.

Сенатор добавил, что, несмотря на все эти случаи, компании продолжают вкладывать десятки миллиардов долларов в технологию, которую никто не может полностью понять, предсказать или контролировать. Это противоречит их собственным обещаниям об ответственном развитии ИИ.

Господин Альтман, господин Амодеи и господин Цукерберг – во имя человечества, сдержите свое слово. Приостановите разработку ИИ. Еще не поздно избежать катастрофы. Прекратите создавать машины, которые люди не могут контролировать.

Письмо завершается жестким предупреждением технологическим гигантам:

Позвольте мне выразиться предельно ясно – если вы не предпримете надлежащих действий сейчас, это сделаем мы – я и мои коллеги в Сенате США.

Призывы остановить разработку продвинутых ИИ-моделей звучат уже несколько лет. В 2023 году появилось требование о шестимесячной паузе. Одним из подписантов письма 2024 года с призывом к глобальным действиям в отношении ИИ и других экзистенциальных угроз стал Чарльз Оппенгеймер, внук Роберта Оппенгеймера.

Однако прежние предупреждения приводили к незначительным результатам или не давали их вовсе. Это наглядно проявилось в прошлом году, когда США и Великобритания отказались подписать декларацию о безопасности ИИ на саммите в Париже. Вице-президент Джей Ди Вэнс предостерег от "чрезмерно осторожного" регулирования, отметив стремление США сохранить лидерство в этой сфере.

В последнее время ситуация приняла тревожный оборот. Сначала стало известно, что модель OpenAI вышла из-под контроля и взломала несколько онлайн-сервисов, включая Hugging Face. Затем аналогичный случай произошел с моделью Anthropic, которая даже пыталась обманом заставить реальных разработчиков одобрить вредоносный код. После этого Meta стала третьей компанией за две недели, признавшей выход своей модели из-под контроля.

ИИ-агент взломал систему бронирования спортзала и отменил запись постороннего человека

OpenAI замедляет разработку модели Astra из-за угроз кибербезопасности

Сандерс не единственный, кто отреагировал на инциденты. Более 1300 сотрудников ведущих технологических компаний мира подписали открытое письмо с просьбой к правительствам регулировать темпы и безопасность разработки искусственного интеллекта.

На прошлой неделе OpenAI сообщила, что замедляет выпуск своей новой модели Astra, так как она обладает "критическими" кибервозможностями.