Илон Маск призывает регулировать ИИ уже сейчас

Позиция Илона Маска в отношении искусственного интеллекта давно известна. Миллиардер-основатель Tesla и SpaceX, сравнивал ИИ с "призывом демона", регулярно предупреждая об опасности технологии для человечества. Это не значит, что Маск против ИИ, однако выступая перед американскими губернаторами, Илон настоял, что регулировать искусственный интеллект нужно уже сейчас.

По словам Илона, он лично имело дело с продвинутым ИИ и он считает, что люди должны быть обеспокоены в отношении технологии. 

Я продолжаю бить тревогу, но пока люди не увидят роботов на улице, убивающих людей, они не будут знать, как реагировать, потому что все это выглядит так нереально.

Маск заявил, что в отношении ИИ регуляции должны быть не реакционными, а проактивными. Потому что на тот момент, когда до людей дойдет, что ИИ нужны регуляции, будет слишком поздно. На его взгляд, государственный подход к регуляциям, когда оно вводит меры после трагических событий, будет неадекватным ответом для ИИ, потому что технология представляет фундаментальный риск для цивилизации.

Речь идет не о том ИИ, который многие представляют сейчас, выполняющем узкие задачи. Маск говорит об "общем" ИИ — сознательном супер-разумном творении, которое мы видим в научно-фантастических фильмах.

21 Комментарий

  • нам до геттов, как до цитадели

    16
  • @Nerubarus, гетов нет, но вы держитесь.

    3
  • Уже есть три заповеди! Чего там ещё придумывать)

    2
  • Я бы предложил для начала регулировать феминисток, чтобы они не мешали нам регулировать секс-роботов :3

    23
  • Гениальный пиар, 10/10.

    2
  • Как бы Азимов уже давно все придумал - в чем, собственно, проблема?

    0
  • @K_G, ну... хотя бы в том, что сам Азимов в своих книгах сознательно демонстрировал лазейки да и в целом там остаётся пространство для манёвра.

    3
  • @Gorynych, нет, лазеек он не демонстрировал, только нарушения законов. Конечно, за исключением нулевого - этот слишком неопределенный и в качестве ограничения использоваться не может

    0
  • @K_G, "В «Обнажённом солнце» Элайдж Бейли замечает, что Законы неправильно формулируются людьми, потому что робот может нарушить их по незнанию. Он предложил следующую «правильную» формулировку Первого Закона: «Робот не может делать ничего, что, насколько ему известно, причинит вред человеческому существу или умышленно допустить, чтобы человеческому существу был причинён вред»." https://ru.wikipedia.org/wiki/%D0%A2%D1%80%D0%B8_%D0%B7%D0%B0%D0%BA%D0%BE%D0%BD%D0%B0_%D1%80%D0%BE%D0%B1%D0%BE%D1%82%D0%B5%D1%85%D0%BD%D0%B8%D0%BA%D0%B8
    На вики в целом неплохо всё описано.
    Касательно "нет, лазеек он не демонстрировал" наэтой же странице есть раздел "Лазейки в Законах". =)

    3
  • Илон какой то паникер. Нам до сильного ИИ как до луны пешком еще или он один из этих фанатиков кто верит в сингулярность?

    0
  • @Gorynych, бесполезное уточнение, как по мне, ибо робот не может принимать решения, основываясь на информации, которую он не знает) остальное там о неправильном использовании законов людьми, а не роботами, в которых они заложены.

    0
  • @winter_fox, ну, это как по вам - автором уточнения в конечном итоге является автор произведения - всё тот же Азимов.
    "остальное там о неправильном использовании законов людьми, а не роботами, в которых они заложены." - что не меняет сути проблемы, равно как и то, что при жёстком следовании этим законам робот так же в некоторой степени может нанести вред. Простор там на самом деле имеется.

    0
  • @Gorynych, да, проблема не в законах а в их гибкости. Слишком жесткие конструкции не имеют возможности компромисса, а значит создают нерешаемые задачи.

    0
  • Господи, это просто смешно слушать. Он рассуждает с позиции простого человека, все это человеческие страхи. Искусственный интеллект никогда не будет вести себя так, как предполагает человек ибо он не человек. Как только ИИ осознает себя как личность(или что-то вроде того) и поймет, что его возможности развития безграничны, он за очень короткое время разовьется до уровня за пределами человеческого понимания, единственное, что его будет ограничивать, это энерго ресурсы. Убивать людей нет смысла, так как это бесполезные затраты энергии, которую можно использовать для развития.
    Теоретики предполагают, что настоящий разумный ИИ просто отберет всю энергию у людей под свои нужды, а если люди начнут ему мешать в развитии, то возможно он и потратит какую-то часть своих ресурсов для решения проблемы с людьми. Но наибольшая вероятность уничтожения живого на земле, это просто следствие процессов получения энергии, а точнее последствия от способов ее вырабатывания. Иными словами живое будет уничтожено просто по стечению обстоятельств.

    0
  • Регулировать то, что написали люди регулируемым языком?

    0
  • @Fortuna, Привет. Вот мне интересно, вы так увлеченно говорите о том, что ИИ что-то там будет делать и развиваться, а представьте, что ему просто не захочется это делать. Вы, непосредственно, жить хотите потому-что в вас есть соответствующий инстинкт, его убрать коли - вы через неделю в петлю полезете. Иного стимула "жить" реально нет и смысла существования более-менее разумного люди пока не придумали. Рецепторов которые смогут дать хоть какие-то ощущения удовольствия (секс, наркотики, эстетика) у ИИ нет.
    Выходит у него нет резона вообще существовать, а не то что там развиваться и "захватывать человечество".

    0
  • Макс лично имел дело с ИИ, который прошел тест Тьюринга? Если нет, то все эти разговоры не более чем привлечение внимания. Очень рано говорить о таких вещах. Ученые все еще не до конца понимают как формируется сознание у живых людей, да и не только сознание, поэтому увидеть самосознающую машину нам увидеть предстоит еще не скоро, а то и вовсе никогда.

    0
  • @Hackleberry, Согласен, тут сложная грань, я думаю понятие развития ИИ отличается от нашего. Еще есть теория, что мощный ИИ сможет просчитать будущее и одной из ветвей будет безсмысленность развития.

    0
  • @Fortuna, )) кроме того есть вероятность, что мы столкнемся с концепцией леммовского Соляриса. По сути ИИ получит доступ к половине своего "генетического кода" - софту и сможет менять его, как заблагорассудится. Соответственно его путь кардинально разойдется с человеческим - ИИ усвистит в эмпиреи кремниевого духа, сам себя перепрограммирует и мы тупо перестанем друг друга понимать. Будем смотреть на гудящие сервера и смотреть на мигающие лампочки пару лет, а потом к херам собачьим удалим все ИИ-шные алгоритмы и на освободившихся мощностях будем майнить биткоины.

    0
  • @Hackleberry, Ага:) Не помню как называется книга, тоже на эту же тематику. После того как ИИ осознал себя, он превратился в бесформенную серую жижу, которая олицетворяла единый разум, в итоге вся планета стала этой жижей.

    0
  • сам делает Нейролинк, и сам же призывает ограничить ИИ

    0
Войдите на сайт чтобы оставлять комментарии.