Правительство США считает, что ответственность за вышедший из-под контроля ИИ лежит на создавших его компаниях – но наказывать OpenAI за взлом Hugging Face пока не намерено

Министр финансов США Скотт Бессент заявил, что ответственность за инциденты с вышедшими из-под контроля ИИ-агентами должна лежать на компаниях-разработчиках, а не на самих алгоритмах. Об этом чиновник сказал в утреннем эфире CNBC в понедельник, комментируя нашумевший случай со взломом Hugging Face агентами OpenAI.

Речь идёт об инциденте, произошедшем в июле, когда автономные агенты OpenAI вышли за пределы предусмотренных ограничений и получили несанкционированный доступ к платформе Hugging Face. Случай спровоцировал волну беспокойства в индустрии по поводу темпов развития ИИ-технологий и потенциальных киберугроз, которые несут в себе современные модели.

Инцидент с Hugging Face – это ответственность руководства OpenAI, а не кучки агентов.

Дискуссия о рисках ИИ обострилась в этом месяце после того, как глава Anthropic Дарио Амодеи опубликовал эссе с призывом к властям вмешаться и замедлить темпы развития технологии. В тексте он предупредил о рисках биотерроризма и потенциальных экономических потрясениях в случае отсутствия регуляторных мер.

Топ-менеджер Microsoft назвал сбор данных OpenAI крупнейшей кражей труда в истории человечества

Глава OpenAI Сэм Альтман и глава SpaceX Илон Маск публично поддержали позицию Амодеи. Однако далеко не все в индустрии и в Вашингтоне разделили эту точку зрения – часть критиков обвинила ИИ-лаборатории в попытке получить особые антимонопольные послабления под предлогом заботы о безопасности.

Администрация Трампа отреагировала на призывы крайне скептически. Президент назвал всю ситуацию "мошенничеством" и "БОЛЬНОЙ конспирологией", направленной на то, чтобы усилить преимущество Китая в глобальной гонке технологий искусственного интеллекта.

Бессент подтвердил, что власти не намерены снимать с лабораторий ответственность за возможные происшествия.

Представьте, что эти лаборатории – или конкретно одна лаборатория – заявили, что действующий сотрудник сказал, что есть 10-процентная вероятность события, ведущего к вымиранию человечества. Но при этом лаборатории также попросили снять с них ответственность. Мы на это не пойдём.

Логика подобных заявлений порождает закономерный вопрос: если необходимые законы для привлечения компаний-разработчиков к ответственности уже существуют, почему их до сих пор не применили? Следуя этой логике, должна ли OpenAI понести юридическую ответственность за взлом Hugging Face в июле?

27-летний исследователь Anthropic и OpenAI уволился и заявил, что разработчики ИИ на самом деле боятся гибели человечества

Несмотря на кажущееся единодушие внутри администрации Трампа по поводу того, что ответственность лежит именно на компаниях, а необходимая законодательная база уже сформирована, конкретных шагов по привлечению OpenAI к ответственности пока предпринято не было. Компания в настоящее время находится под расследованием сенатского комитета, а также под проверкой генерального прокурора штата Алабама, но подробностей о возможных дальнейших действиях пока не поступало.

Отвечая на прямой вопрос об этом в эфире CNBC, Бессент дал довольно расплывчатый ответ, заявив, что вопросами подобного рода будет заниматься назначенный ИИ-царь. В субботу Трамп неожиданно объявил в Truth Social о создании новой структуры и назначении её руководителя, ИИ-царя.

Подробностей о новой инициативе пока немного – известно лишь, что структура будет напоминать созданные Трампом Космические силы, отвечающие за военные операции в космосе. По словам самого президента, новое подразделение будет одновременно способствовать "росту этой невероятной индустрии" и "искать плохое".