ИИ представляет риск, сравнимый с ядерной войной — заявляют лидеры индустрии
С развитием таких систем, как ChatGPT, Bard и других больших языковых моделей (LLM), мы всё чаще слышим предупреждения от таких людей, как Илон Маск, о рисках, которые представляет искусственный интеллект (AI). Теперь группа выдающихся лидеров индустрии подтвердила эти опасения в коротком заявлении.
Заявление было опубликовано в Центре по безопасности ИИ — организации, целью которой, согласно её сайту, является "снижение рисков от искусственного интеллекта для общества". Подписанты — известные представители индустрии ИИ, включая главного исполнительного директора OpenAI Сэма Альтмана и руководителя Google DeepMind Демиса Хассабиса. Под ним также подписались лауреаты премии Тьюринга, исследователи Джеффри Хинтон и Йошуа Бенджио, которых многие считают отцами современного ИИ.
Это второе подобное заявление за последние несколько месяцев. В марте Илон Маск, Стив Возняк и более 1000 других людей призвали приостановить разработку ИИ на шесть месяцев, чтобы отрасль и общественность могли эффективно догнать технологию.
Последние месяцы представили безудержную гонку ИИ лабораторий по разработке и внедрению все более мощных цифровых умов, которые никто – даже их создатели – не способны понять, предсказать или надежно контролировать.
Несмотря на то, что ИИ, вероятно, не обладает самосознанием, как опасались некоторые, он уже представляет риски злоупотребления и вреда через поддельные видео, автоматизированные дезинформационные кампании и многое другое. LLM также могут изменить способ создания контента, искусства и литературы, что потенциально затронет множество рабочих мест.
Президент США Джо Байден недавно заявил, что "остается наблюдать", опасен ли ИИ, добавив: "На мой взгляд, технологическим компаниям следует заботиться о безопасности своих продуктов перед их выпуском на рынок... ИИ способен помочь справиться с некоторыми очень сложными проблемами, такими как болезни и изменение климата, но он также должен учесть потенциальные риски для нашего общества, нашей экономики, нашей национальной безопасности." На недавней встрече в Белом доме Альтман призвал к регулированию ИИ из-за потенциальных рисков.
Среди множества мнений, новое, краткое заявление призвано продемонстрировать общую тревогу вокруг рисков ИИ, даже если стороны не согласны, в чем эти риски заключаются.
"Эксперты по ИИ, журналисты, политики и общественность все чаще обсуждают широкий спектр важных и актуальных рисков со стороны ИИ", - говорится во введении к заявлению. "Тем не менее, бывает сложно выразить свои опасения о некоторых из наиболее серьезных рисков, связанных с продвинутым ИИ. Ниже приведенное краткое заявление призвано преодолеть этот барьер и стимулировать дискуссию. Оно также призвано создать общие знания о растущем числе экспертов и общественных деятелей, которые также серьезно относятся к некоторым из наиболее серьезных рисков, связанных с продвинутым ИИ."
- Этот фантастический апскейлер может приблизить изображения до мельчайших деталей
- Wizards of the Coast не будет использовать ИИ при создании контента для Magic: The Gathering
- Билл Гейтс считает, что ИИ радикально трансформирует рабочие места, медицину и образование — вот его прогнозы на год вперёд