ИИ представляет риск, сравнимый с ядерной войной — заявляют лидеры индустрии

С развитием таких систем, как ChatGPT, Bard и других больших языковых моделей (LLM), мы всё чаще слышим предупреждения от таких людей, как Илон Маск, о рисках, которые представляет искусственный интеллект (AI). Теперь группа выдающихся лидеров индустрии подтвердила эти опасения в коротком заявлении.

Заявление было опубликовано в Центре по безопасности ИИ — организации, целью которой, согласно её сайту, является "снижение рисков от искусственного интеллекта для общества". Подписанты — известные представители индустрии ИИ, включая главного исполнительного директора OpenAI Сэма Альтмана и руководителя Google DeepMind Демиса Хассабиса. Под ним также подписались лауреаты премии Тьюринга, исследователи Джеффри Хинтон и Йошуа Бенджио, которых многие считают отцами современного ИИ.

Это второе подобное заявление за последние несколько месяцев. В марте Илон Маск, Стив Возняк и более 1000 других людей призвали приостановить разработку ИИ на шесть месяцев, чтобы отрасль и общественность могли эффективно догнать технологию.

Последние месяцы представили безудержную гонку ИИ лабораторий по разработке и внедрению все более мощных цифровых умов, которые никто – даже их создатели – не способны понять, предсказать или надежно контролировать.

Несмотря на то, что ИИ, вероятно, не обладает самосознанием, как опасались некоторые, он уже представляет риски злоупотребления и вреда через поддельные видео, автоматизированные дезинформационные кампании и многое другое. LLM также могут изменить способ создания контента, искусства и литературы, что потенциально затронет множество рабочих мест.

Президент США Джо Байден недавно заявил, что "остается наблюдать", опасен ли ИИ, добавив: "На мой взгляд, технологическим компаниям следует заботиться о безопасности своих продуктов перед их выпуском на рынок... ИИ способен помочь справиться с некоторыми очень сложными проблемами, такими как болезни и изменение климата, но он также должен учесть потенциальные риски для нашего общества, нашей экономики, нашей национальной безопасности." На недавней встрече в Белом доме Альтман призвал к регулированию ИИ из-за потенциальных рисков.

Среди множества мнений, новое, краткое заявление призвано продемонстрировать общую тревогу вокруг рисков ИИ, даже если стороны не согласны, в чем эти риски заключаются.

"Эксперты по ИИ, журналисты, политики и общественность все чаще обсуждают широкий спектр важных и актуальных рисков со стороны ИИ", - говорится во введении к заявлению. "Тем не менее, бывает сложно выразить свои опасения о некоторых из наиболее серьезных рисков, связанных с продвинутым ИИ. Ниже приведенное краткое заявление призвано преодолеть этот барьер и стимулировать дискуссию. Оно также призвано создать общие знания о растущем числе экспертов и общественных деятелей, которые также серьезно относятся к некоторым из наиболее серьезных рисков, связанных с продвинутым ИИ."