Президент Microsoft заявил, что ИИ регулируют слабее молока и стиральных машин

Президент Microsoft Брэд Смит заявил, что ИИ сейчас регулируется слабее, чем продукты питания и коммунальные услуги, на которые люди полагаются каждый день.

Прямо сейчас ваша стиральная машина подчиняется большему количеству правил безопасности, чем ИИ. Каждая упаковка молока, которую вы видите в магазине, подпадает под правила безопасности и проверки.

Речь идёт не только о США. Смит призвал ввести правила безопасности на глобальном уровне. Он выступил с этим заявлением в подкасте BBC Big Boss.

Среди предложенных мер значится юридическая обязанность уведомлять пострадавших, если их системы были скомпрометированы вышедшими из-под контроля ИИ-агентами. Предложение звучит своевременно, ведь в этом году агенты OpenAI взломали Hugging Face и стали источником ряда других инцидентов.

Смит также выступил за то, чтобы независимые оценщики тестировали ИИ-продукты до релиза. Кроме того, он предложил "тормоз безопасности" для автономных систем. ИИ он назвал одновременно "инструментом и оружием".

ИИ для полиции США находит дом по одному фото интерьера – хватает даже снимка стиральной машины

Подобные заявления расходятся с позицией администрации США. Стратегия президента Дональда Трампа не предполагает замедления и нацелена на "решительный курс на укрепление доминирования США в сфере искусственного интеллекта".

В прошлом месяце Трамп подписал указ, который переименовывает "искусственный интеллект" в "суперинтеллект". Незадолго до этого Trump Media объединилась с ИИ-поисковиком Perplexity и создала Truth Search AI. Цель сервиса, по заявлению участников, – "положить конец нападкам Big Tech на свободу слова".

Неудивительно, что глава Microsoft ищет лидера регуляторных инициатив за пределами США.

Большинство знакомых мне людей, если спросить их "назовите страну, которая лидирует по этим технологическим возможностям", ответят: "Всё очень просто. Это Великобритания. Они лучшие".

Правительство Великобритании основало структуру, которая сейчас называется Институтом безопасности ИИ, ещё в 2023 году. Это, по всей видимости, первый подобный орган по безопасности ИИ при поддержке государства.

Смит не единственный, кто призывает к осторожности. В сентябре бывший исследователь Anthropic и OpenAI сделал громкое заявление о том, что развитие ИИ "может убить нас всех к концу десятилетия". Примерно тогда же глава Anthropic Дарио Амодеи более сдержанно призвал замедлить развитие технологий.