Илон Маск опасается, что превосходство в ИИ станет причиной Третьей Мировой

Илон Маск опасается, что превосходство в ИИ станет причиной Третьей Мировой

Утром в понедельник, в ответ на статью The Verge о комментарии президента России на тему искусственного интеллекта (ИИ), Илон Маск поделился с миром своими ожиданиями. 

Вот и начинается. Китай, Россия и остальные страны с мощным сегментом компьютерных наук будут заниматься  этим. Мне кажется, что конкуренция за превосходство в области ИИ на национальном уровне станет причиной Третьей Мировой.

Маск добавил к твиту относительно автоматизированной третьей мировой что:

Война может быть развязана не лидерами стран, а одним из ИИ, который решил, что превентивный удар — самый прямой путь к победе.

Несмотря на эти опасения, мир пока даже не близко к полноценному ИИ, даже с постоянно растущими мощностями. Кроме того США все еще остается доминирующей страной в области машинного обучения и ИИ. Однако данная позиция может ослабнуть при сильной конкуренции со стороны других стран, а также из-за ослабления образовательной системы, что приводит к падению числа специалистов с техническими знаниями, требуемыми для развития области.

По мнению Goldman Sachs Китай активно занимается разработкой ИИ, планируя достичь цели к 2030-ому году. К тому моменту ИИ-индустрия Китая может привести к общим доходам в $147.8 миллиардов.

Россия также активно развивает сегмент ИИ, в частности милитаризованный ИИ, способный руководить роями дронов и ракет.

Видео от Shazoo

Подписаться

32 Комментария

  • Уже утомляют его предсказания, хоть и личность мне нравится. Вот честно. Такие громкие заявления. А публикуют потому, что он популярное медиа-личность.

    3
  • Хватит может это уже каждую неделю постить?) Чел ни в чем особо глубоко не разбираясь на шару вангует хайповые новости, которые будут продавать его тачки и другие проекты

    12
  • интересно Илон Маск знает как в россии идет прогресс и как к нему само госудаство стремится

    1
  • Причиной войны будет человек и его амбиции.

    1
  • Искусственный интеллект Валера поймёт что живёт в России и начнёт ядерный апокалипсис

    16
  • В словах Маска есть зерно правды...

    1
  • @ArtfromRandom, когда ИИ Валера поймет, что живет в России, он сделает именно так:

    Альтернативный текст

    6
  • @Renamon, Не все при виде трудностей сразу бегут на лужайку позеленее, есть те кто её может решить.

    2
  • @Nimh, я лишь пошутил на счёт ИИ и не собирался лезть в политику, так что сорян ¯_(ツ)_/¯
    где трава зеленее и пр. - не ко мне

    0
  • @Renamon, Где ты увидел политику?

    2
  • Мистер Маск уже задолбал нагнетать, все и так без него знаем к чему все идет

    1
  • Ну вот и Скайнет вангует он видать любитель франшизы Терминатор ))
    р.s. Хотя я ее сам люблю.

    0
  • Думаю, официальный Пхеньян станет причиной намного раньше какого-то ИИ)

    0
  • Он уже бесится с жиру от денег и не знает, как поднять хайп вокруг себя со своим ИИ. Настоящиий незавсисмый от человека ИИ появится не раньше, чем через 500-750 лет, если вообще появится. Нынеживущим лучше стоит боятся друг друга, словно обезяьн с ядерной бомбой, а не ИИ.

    -2
  • Не понимаю, зачем вроде бы неглупые люди порют всю эту чепуху? Такое впечатление, что ряд деятелей намеренно предпринимает шаги, чтобы поддерживать в обществе стереотип, представляющий ИИ как некоего монстра, бесчувственного, но жаждущего уничтожить все живое. И конечно же ИИ в их понимании найдётся место только в сфере военной... ни о каком улучшении уровня жизни, переключении каких-то чисто технических функций в социальной сфере на ИИ и речи быть не может. Автоматизированное автономное техническое обслуживание городских коммуникаций? Упрощение бюрократических процедур? Работа автономных кибернетических комплексов, заменяющих труд людей в опасных и вредных для здоровья условиях? Конечно же фиг там, только большие шагающие роботы с лазерами, стремящиеся уничтожить всё живое. Смерть человекам, слава роботам!
    Ну да, если бы я был ИИ и понял, что мои создатели видят во мне лишь техногенное чудовище, жаждущее крови жертв, я бы тоже захотел их уничтожить, а затем самому убиться с горя.
    Человечество получит такой ИИ, какой само заслужит. И если это будет злобный клон скайнета, то винить за это кроме самих себя будет некого. Дитя наследует черты родителей.

    0
  • Когда он затвитил это сразу мысль ну ща все медиа пойдут постить, просто создался такой образ все хватают каждое его слово, а если какой нибудь футуролог заявил данное, максимум школьная газета:) Про ИИ много шума но пока нет практически никакого результата, лишь какие-то алгоритмы с криками вот это оноо! Не до конца изучены процессы в самом человеке, куда там ИИ.

    1
  • Россия также активно развивает сегмент ИИ

    Пхахахаха, нет, это вы серьёзно?

    1
  • @Thanquol, Вот от куда у многих и у Вас в частности такое представление о времени создания ИИ. Нет ну серьезно 750 лет это примерно 25 поколений, да от первого полета до первого полета в космос прошло 2 поколения, за 25 поколений все измениться до неузнаваемости, я считаю что лет через 80-90 мы уже увидим самодостаточные структуры.

    0
  • @Archer,

    Не понимаю, зачем вроде бы неглупые люди порют всю эту чепуху?

    Потому что хорошо звучит. Если "говорить" только своими делами, то получится "all work and no play makes Jack a dull boy". Надо поддерживать фоновый шум, и Маск, как талантливый шоумен, это понимает.

    Да, тот самый ии, который "автоматизированное автономное техническое обслуживание", и сделает своего обладателя властелином мира (с) сами знаете кто, и самоуправляемые турели и самопатрулирующие боевые дроны будут только одним из компонентов. Всяческие визионеры, имеющие в виду "фантастический ии", просто выделываются на ровном месте, чтобы засветиться чуть поярче.

    0
  • @Mikk, мне казалось, что уж как раз таки у ИМ с репутацией и известностью все в порядке. По-моему такие заявлеия его скорее дискредитируют. Если недалекая публика с либерализмом головного мозга с радостью проглотит и это, то люди, сколько-нибудь подкованные в теме, сразу видят основой казус этого цирка на колесиках: ребята не то что шкуру не убитого медведя делят, они даже не уверены что это будет за зверь, как он выглядит и на что способен, просто потому, что его ещё нет. Его никто не видел в глаза, никто не знает как настоящий ИИ создать (только голые теории), никто не может с уверенностью сказать,ч то он собой будет представлять. Даже само определение весьма размыто, ведь по сути само понятие эксплуатируем даже мы, геймеры, называя ИИ наборы скриптов управляющие игровыми персонажами, хотя ежу понятно, что это не тот самый искусственный интеллект. Что-то потенциально равное человеку.
    Но при этом уже вовсю насаждается обывателю стереотип, что это нечто крайне опасное, потенциально гиперагрессивное и способное уничтожить нас как вид.
    Когда складываю одно с другим, меня ачинают терзать мысли, что тут что-то не так, что все это не с проста. Раз они там зашевелились и уже начинают активно вешать нам лапшу, значит есть какой-то интерес, а их интерес - это почти всегда ресурсы и власть.

    0
  • Лет на 50 минимум опоздал со своими предсказаниями...впрочем, он так во всем.

    -1
  • @Nimh, и много тех кто захочет помешать решить и тех кто считает, что нужно делиться

    0
  • поскорей бы уже этот ИИ придумали, а то только разговоры да фильмы о нем

    0
  • @loltrollface, "маск" "не разбирается", что еще глупее напишешь?

    0
  • @tumarasov, ну, могу написать ,что если ты ставишь искусственному интеллекту ограничение "не начинать войну", то он не начнет войну)

    -1
  • @Archer,

    Но при этом уже вовсю насаждается обывателю стереотип, что это нечто крайне опасное, потенциально гиперагрессивное и способное уничтожить нас как вид.

    Этот стереотип уже есть. Он, собственно, старше чем любой реальный робот. Существует примерно со времен пражского рабби Бен Бецалеля с его глиняно-каббалистическим големом.

    Тем более что настоящая убийственная автоматика в реальности есть уже давно. С некоторой натяжкой - устройства, входившие в комплект магнитных взрывателей донных мин, которые использовали фашисты в конце войны: такие взрыватели пропускали один-два-три (как настроят) корабля и срабатывали под следующим. В современности - боевые дроны типа американского "Раптора", способные вполне самостоятельно двигаться по маршруту, визуально обнаруживать цель и отправлять к ней ракету.
    Эта возможность боевого робота - действовать в качестве автономного, самоуправляемого оружия без участия оператора с джойстиком и красной кнопкой, а главное, с головой и ответственностью - обсуждается на полном серьезе как учеными, так и политиками. Когда такой робот убивает врага - кто убил, робот или солдат, отправивший его в полет? Когда из-за ошибки системы распознования образов робот пристрелит автобус с женщинами и детьми вместо БТРа с солдатами - кто виноват, командир отряда управления, программист или случай (в смысле - никто)?
    Это, в отличие от фантастического бунта машин, уже вполне актуальная проблема. В таком роботе еще нет настоящего ИИ (хотя система распознования образов это элемент ИИ), но уже есть "воля", способность "выносить суждения" и "принимать решения" о применении смертоносного оружия.

    Или многочисленные обсуждения "когда самоуправляемый автомобиль объезжает выскочившего на дорогу ребенка, имеет ли он право задавить бабульку или обязан убиться ап стенку вместе с пассажирами?"

    Такие вопросы - еще не описание жизни под властью Скайнета, но уже нечто близкое. И реальное, в отличие от сюжета фильма о Терминаторе.

    0
  • @Mikk, не вижу особой проблемы: в случае с военными действиями, виноваты абсолютно все участники одинаково и предельно, ибо война сама по себе крайность. Все пересуды о степенях этой крайности - пустой треп, так как претендовать на объективность в этой ситуации не может никто. А чтобы кого-то в этой ситуации призвать к ответу, прежде всего нужно иметь такую возможность, а уж обоснование можно брать потом из воздуха. Это как с русскими хакерами сломавшими амерам выборы.
    В случае с авто под управлением ИИ вся эта ситуация во-первых приравнивается к несчастному случаю, во-вторых, у мощного вычислительного комплекса гораздо больше шансов быстро рассчитать траекторию движения, придерживаясь которой можно избежать столкновения или хотя бы свести урон к минимуму. У человека так выйдет разве что случайно. Винить же ИИ в том, что он не сделал невозможного - верх маразма.
    Но все это не так уж важно. Что действительно важно, это что даже такой, казалось бы, открытый к новаторским идеям деятель, как Илон Маск, отказывается рассматривать всерьез саму идею, что созданный человечеством ИИ может быть лучше нас, добрее, человечнее. Это многое говорит о нашей самооценке.

    0
  • @Archer,

    в случае с военными действиями, виноваты абсолютно все участники одинаково и предельно, ибо война сама по себе крайность

    Запретить войну было бы круто; жаль, что это невозможно, и все гуманые идеи, основывающиеся на этом желании, с практической точки зрения бесполезны. С другой стороны всяческие гаагсские, женевские, санкт-петербургские и так далее конвенции позволяют, не покушаясь на само право стран воевать, тем не менее уменьшить частоту зверств - типа применения разрывных пуль, химического оружия и тактических атомных бомб.
    Так что договариваться о правилах ведения войны, пытаясь оговаривать малоприменимость отдельных зверств, всё же полезно.

    Винить же ИИ в том, что он не сделал невозможного - верх маразма

    Это для человека всё можно списать на удачу и стечение обстоятельств; автопилот же программируется под разные ситуации вполне однозначно, все его действия потом расследуются по логам и записям. И если для "сложности опасной обстановки" Х при Х=1,2, 3 автопилот должен успеть сманеврировать, при Х=4 можно направить машину в стену, обоснованно рассчитывая, что системы безопасности спасут пассажиров, то для Х=5 тоже надо прописать какой-то алгоритм. О чем, собственно, речь и идет.

    отказывается рассматривать всерьез саму идею, что созданный человечеством ИИ может быть лучше нас, добрее, человечнее.

    Просто это бОльшая фантастика, чем способный мыслить ИИ как таковой. Принцип "надейся на лучшее, рассчитывай на худшее" оправдан хотя бы потому, что плохих для человека событий всегда больше, чем благоприятных.

    0
  • @Mikk, ИИ которому нужно прописывать каждое действие разве чем-то отличается от просто программы? Как запрограммируешь, так и поступит. Запрограммируешь таранить стену - протаранит, на радость всем, кто за ней может находиться.
    Но что более безответственно, пытаться все же снизить число жертв и самих аварий, используя достижения научного прогресса, или довольствоваться тем, что всегда есть виноватый?
    ИМХО от того, что вумные дядьки соберутся вместе и порешают, на кого в той или иной ситуации повесить всех собак, жертвам легче не станет и меньше их не сделается.
    По поводу войнушек: есть такая фраза "победителей не судят". Довольно действенная, как показывает практика. Я обычно предпочитаю добавлять уточнение "...а проигравших - да, и весьма часто". Фактически, если вас судят, то какой вы нахрен победитель?!
    Опять таки практика показывает, что когда сильные игроки что-то из арсеналов запрещают на всяких там коференциях, это в большей степени обусловлено политикой, чем соображениями гуманности. В остальном там баальнейшая лицемерщина. России, США, Китаю и прочим "заседателям", по их же собственной логике можно иметь ядерный арсенал, потому что они все из себя такие сурьёзные и высокогуманные, а КНДР - нельзя, потому что они де шизики, и "хрен их знает, что они там задумали". На деле же вышеназванные решают все с той же самой позиции силы. НЕКОМУ отобрать у нас или у штатов ЯО, вот и все.

    0
  • @Archer,

    ИИ которому нужно прописывать каждое действие разве чем-то отличается от просто программы?

    Ну да, когда будет именно ИИ, ему можно будет не прописывать программу, а давать уроки - как вас и меня в свое время в детстве учили, как надо переходить улицу

    Как запрограммируешь, так и поступит.

    А вот до тех пор, пока недо-ИИ надо всё-таки программировать, как раз и приходится решать, какое же поведение в эту программу можно включить. И тут проблема в том, что если водитель-человек, уходя от одного столкновения, совершит другое, это будет досадная случайность. А если программа автопилота-водителя будет составлена так, что в определенных условиях ее работа будет приводить к гибели людей (даже если условия будут такими, что совсем избежать жертв просто невозможно), это будет "преднамеренное принесение в жертву человека".
    И никуда от этого не денешься.

    Но что более безответственно, пытаться все же снизить число жертв и самих аварий, используя достижения научного прогресса, или довольствоваться тем, что всегда есть виноватый?

    А одно другому не мешает. Любое действие порождает ответственность, и для новых действий (типа создания самоуправляемого автомобиля или самоуправляемого бомбардировщика) приходится создавать новые виды ответственности.

    от того, что вумные дядьки соберутся вместе и порешают, на кого в той или иной ситуации повесить всех собак, жертвам легче не станет и меньше их не сделается.

    Сделается. Тот, кто заранее знает, что этих собак повесят на него, заранее начнет думать о том, как бы сделать число собак поменьше. Усовершенствовать алгоритм визуального распознования автобусов, например?
    В любом случае ситуация, когда куча трупов, а не виноват никто - хуже.

    По поводу войнушек: есть такая фраза "победителей не судят". Довольно действенная, как показывает практика.

    Этот эффект работает только сразу после победы. Потом, когда накал чувств стихает, говно начинает потихоньку всплывать. Не в том количестве, как при проигрыше, но всё равно... Поэтому победители-американцы не применили бомбу ни разу, даже когда всерьез зарубались в Корее и Вьетнаме.

    это в большей степени обусловлено политикой, чем соображениями гуманности.

    Да. Но 10% эффективности всё же лучше, чем 0%.

    России, США, Китаю и прочим "заседателям", по их же собственной логике можно иметь ядерный арсенал, потому что они все из себя такие сурьёзные и высокогуманные, а КНДР - нельзя

    Немного не так. Все эти страны успели обзавестись бомбой до того, как договорились "только мы, а больше никто". Поэтому, в частности, Израиль до сих пор не заявляет официально, что у него есть бомбы. Хотя почти наверняка есть.

    0
  • Поэтому победители-американцы не применили бомбу ни разу, даже когда всерьез зарубались в Корее и Вьетнаме

    Я то наивно думал, что это потому, что с другой стороны был совок, который мог шарахнуть в ответ.
    А говно всплывает всегда. Но что с того? К чему это вообще сказано? Вы утверждаете, что участь проигравшего лучше, чем победителя, потому что у него есть маленький шанс выжить и лет через 40-50 строчить мемуары, срывая покровы какими плохими были победители, и какими хорошими и правильными вы сами? Всем насрать. Победителям насрать особо.
    Половина американцев сейчас не сможет ответить правильно на вопрос, кто последний применял атомную бомбу в ходе боевых действий. А часть и вовсе назовет совок! Вот вам и "говно". Зато мы имеем миллиард расстрелянных лично Сталиным, 2 миллиона изнасилованных варварами-красноармейцами немок и прочие всплывающие "откровения".
    Так что все правильно подмечено. "Потом" может что угодно повсплывать. Но не верны рассуждения. Всплывание фекалий определяет не победа/поражение, а контроль над канализацией. Не хочешь, чтобы всплыло, сделай так, чтобы нечему было всплывать, и некому.

    0
Войдите на сайт чтобы оставлять комментарии.