Илон Маск и еще 115 экспертов подписали письмо против боевых роботов

Илон Маск и еще 115 экспертов подписали письмо против боевых роботов

Лидеры в области ИИ и робототехники, в том числе Илон Маск (Tesla, SpaceX, Boring Co.) и Мустафа Сулейман (Google DeepMind) подписались под открытым письмом к Организации Объединенных Наций, призывая запретить использование летального автономного оружия, также известного как "роботы-убийцы". В своей петиции группа заявляет, что развитие подобных технологий приведет к "третьей революции в боевых действиях", которая сопоставима с изобретением пороха и ядерного оружия.

Будучи разработанным, автономное оружие позволит вести вооруженные конфликты на масштабах больших, чем когда-либо, со скоростью, которая непостижима для человека. Это может быть оружие террора, оружие, которое деспоты и террористы будут использовать против невинных, оружие, которое можно взломать и заставить вести нежелательным образом.

Письмо подписано 116 экспертами из 26 стран и было опубликовано перед конференцией по ИИ. Письмо приурочено к обсуждениям в ООН возможного запрета роботизированного оружия. 123 члена ООН согласились на переговоры. 

Эксперты хотят, чтобы подобное оружие было включено в конвенцию от 1983 года, которая ограничивает использование мин, химического зажигательного оружия, ослепляющих врагов лазеров и другое. 

Маск в частности уже высказывал свое беспокойство на тему ИИ-роботов, опасаясь того, на что будет способен настоящий искусственный интеллект, если человечество будет создавать его неаккуратно. 

Видео от Shazoo

Подписаться

49 Комментариев

  • Эх, Маск, ну почему ты такой скучный...

    0
  • В любом случае будут вести разработке где то в подвалах и зонах 51, даже при запрете.

    3
  • Раз уж начали, почему не создадут петицию "Полное разоружение мира" Все виды оружии. Просто, блин они подписали то чего еще нету у военных даже в супер пупер мега секретных лабораториях.

    2
  • @LeakingBrain, а иначе у нас тут будет кибер-панк воплоти....

    0
  • против автономных боевых роботов с ИИ.
    а человекоуправляемые - на здоровье.

    0
  • @smal_boy_44, Он уже в состояний цифрового эмбриона. Рано или поздно он будет.

    0
  • Человеческое любопытство не знает предела и какой-то там закон не застрахует от разработки , использования ИИ в том или ином виде.

    4
  • Эй, ну почему? Я так мечтал, что человечество погубят роботы.

    -1
  • Нет смысла ограничивать неизбежное, просто стоит принять это, как новый виток эволюции.
    Да и все эти ООН с конвенциями об ограничении оружия, ну прям какое-то лицемерие, тогда уж продвигали в национальные массы идеи о полном отказе от оружия и агрессивной риторике в отношении ближайших соседей, начиная с самых главных: США, России, Ирана и Китая.

    1
  • Если начнется война, то пускай лучше меня убьет миталгир а не человек.

    2
  • @Duskflow, как по мне, ООН - рудимент в нынешнем обществе. Где-то не так давно слышал замечательную истину, пока сильнейшие страны владеют ядерным орудием, третьей мировой не будет.
    @Catozombie, а если металгиром будет управлять человек?

    1
  • Они просто не хотят чтобы Кодзима стал пророком )

    0
  • Да лан... подобное ничего не меняет в нашем мире. Огнестрельное, ядерное и биологическое оружие допустили разработать и изготовить. Военная техника есть.
    А так, любое гос-во будет заинтересованно в том, что бы её военная мощь была несокрушима, ТЕМ БОЛЕЕ если это будет без ущерба для граждан этого гос-ва.
    Начало уже положено, а кусочек "бумажки" ничего не сдержит.
    Ибо в далёком будущем, человечество не сможет за себя постоять.

    0
  • Правильно, пусть и дальше солдатики на войне погибают

    0
  • Илон умным должен быть. Развитие робостроения помогло бы человечеству в изучении как Земли, так и космоса. Война всегда помогала науке финансами, тем более это поможет избежать человеческих жертв. Не совсем понятно чего он боится.
    Вот АИ да, АИ лучше уж заранее обуздать.

    0
  • @Funnybone, Ну это в принципе логичная истина, проблема, что такие страны с другой стороны перешли от прямых к гибридным и прокси-войнам на которых всё так же гибнут сотни и тысячи людей, разрушаются города и даже целые страны.

    0
  • @memes_are_evil, Развитие роботостроение и поможет человечеству. Оно уже помогает очень активно. 21век. Опасение в том, что ИИ для человечества это нечто новые и неизвестное. Роботы и сейчас быстрее и сильнее человека... а создание ИИ даст им "УМ". И вероятнее, всего они, роботы, будут умнее людей. Это и вызывает опасение.

    1
  • Главное что бы мехов не запретили.

    0
  • Я вообще до сих пор не понимаю, как можно запретить использовать какое-либо оружие в войне? Что за бред? Это война, черт возьми, там одни люди убивают других, какая нахрен разница, если кто-то применет какой-то там газ, биологическое оружие, дронов и тд? Кто это будет соблюдать во время войны, если на войне главное одолеть врага? Что им за это будет? Скажут: "Ах вы негодяи, вы убиваете людей не по правилам, так не честно!!!", серьёзно?

    1
  • @Funnybone, ну это да)) просто я не думаю что роботизированную военную технику будут прям запрещать. Какая разница между огромным роботом управляемым человеком и какой-нибудь пусковой установкой, которая поджаривает все вокруг?
    Тут скорее речь идет как раз о искусственном интеллекте, учитывая разговор о "третьей революции"

    @Sorrow, ага, скорее просто ученые насмотрелись анимех с мехами и захотели сделать мир лучше, а кое-кто уже играл в определенную игру и все знает)

    0
  • @AidenPearce, править ядерными пустошами мало приятного. А с газом и биологическим немного сложнее. Но идея та же. Грубо говоря в какой то момент посчитали, что цель не оправдывает средства.

    0
  • @Duskflow, ну вот нет, сейчас идет информационная война, которая поглощает похлеще концлагерей. Мы можем наблюдать канцерогенного субчеловека. Иначе никак не сказать. Надо просто ящик от всех поколений двигать подальше.
    @Catozombie, ну вот никогда военмехов не будут двигать назад. Разве что человечество обретет позитивом и антимилитаризмом. Как то я тоже надеялся на мировой исход. Но этого не будет. Пожалуй, никогда, пока человечество уничтожит само себя

    0
  • @AidenPearce, когда ты победишь врага химическим/биологическим оружием, роботами, то потом сможешь сказать что он нарушал всякие женевские конвенции, чтоб ты смог спокойно проводить различные опыты на побежденных. Для этого все и придумано.
    @Funnybone, Илон Маск сначала будет запрещать все, а потом подумает:" зачем мне все это, все бессмысленно". Сдуреет, наделает кучу роботов, и будет задвигать философские мысли о том что человечество стремится к саморазрушению, а он только ускоряет этот процесс. И что должны остаться только 2-5 процентов, а он будет Богом среди избранных. Потом появится какой-нибудь качок с автоматом, который будет бегать и забрасывать в мех с Илоном Маском гранаты и победит его. Затем к Рэмбо придут иллюминаты-рептилоиды, и скажут что он все сделал правильно, и что надо снижать уровень хаоса, чтобы они могли дальше править миром.
    Будет примерно так.

    1
  • ну прям Metal Gear

    0
  • @all, Какой идиот первый написал про ИИ и дальше пошли комментарии про восстание роботов? В письме говорится о том что подобное оружие станет самым разрушительным в истории и всегда есть вероятность взлома.

    0
  • Спасибо Илону за то, что поиграл в Хорайзон. Может пронесет.

    1
  • @AidenPearce, ну по факту просто на рынке не будет такого оружия

    0
  • Правильно, пусть дальше живые люди умирают (нет)

    0
  • читаю и диву даюсь, диванные критики-эксперты против Илона Маска ))

    все правильно он сделал и остальные тоже. развитие робототехники идет вперед семимильными шагами. еще пара сотен лет и ваши внуки будут жить в мире робототехники и имплантов. ИИ - это не выдумка, а реальность. Ну, или по крайней мере в ближайшее время слегка ограниченный ИИ, но который можно сломать и заставить работать на себя (террористы ау).

    3
  • Они вменяемые вообще? Видимо когда бабла немерянно мир кажется совсем другим. Там работают подобные запреты, а ООН что-то значит. В реальности люди пользуются всем, чем могут, если это эффективно и выгодно. Будут автономные боевые роботы выгодны на поле боя - будут их клепать и юзать как миленькие. Пока выгоднее посылать умирать молодых пацанов.

    0
  • Вот только ядерное оружие свело на нет глобальные конфликты м\у сверх державами, а изобретение пороха ни к чему не привело тысячу лет!
    К тому же террор проще делать на гражданском автомобиле (примеров ныне масса), а с появлением как раз автономных ТС это будет сделать еще проще, почему против этого не протестует Маск? Наверно потому, что их производит ? )

    0
  • А через 20 лет в ООН будут трясти микрочипом утверждая что в стране, где демократии нет, собирают боевых роботов, даже не так, плохая страна населена роботами а люди порабощены и не свободны. Освобождать страну от роботов будут... другие роботы, но они хорошие под управлением windows, они не такие как те.

    0
  • Ох уж этот Маск лицемер. Сам то стопроцентно будет клепать роботов по заказу правительства США.

    -1
  • @Funnybone, хотелось бы посмотреть на этот мир без ООН, ну-ну, ядерное оружие все регулирует, привет середина 20го века!
    @Archer, хим. оружие не используют, белый фосфор запрещен, биологическое тоже не в почете, все это работает и даже очень достойно, так что не надо тут глупости про "если надо используют".

    -3
  • @Kolunyad, все это используется
    Ну а какой толк был от ООН, когда раздирали Югославию, скатили в хаос Ливию, Ирак. ООН это говорящие головы, толку от организации в плане безопасности ноль.
    А вот ядерка как раз сдерживает. Штаты давно бы сожрали КНДР, если бы не ее ЯО

    1
  • @Kolunyad, ты или очень наивен, или тролль. Все это успешно используется. В том числе и теми, кто запрещал. А есть ещё куча тех, кто в этом не участвовал и не подписывался на всякие там запреты.

    0
  • @Kolunyad, А что кто-то заставит подписать конвенцию ООН о запрете автономного оружия и потом ее ратифицировать ? Например "Договор о всеобъемлющем запрещении ядерных испытаний" так и не ратифицировали те же США.

    0
  • рандомным террористам проще по старинке давить машинами. Но вот на ликвидацию какой-нибудь шишки с помощью дрона я бы посмотрел

    2
  • @mooncry, и хорошо бы сделали. А сдерживает всех не ядерка, а экономика.
    А нужно было свои войска вводить, да? Какие другие варианты решения конфликтов были, кроме говорящих голов?
    @Archer, факты пожалуйста покажите, во второй мировой не использовали хим. оружие, к примеру, вы можете вести исследования под грифом секретно, но использовать никакой дурак такое оружие никогда не будет

    0
  • Это всё для публики, а реально как разрабатывали так и будут... Просто хотят в свете пушистинькими казаться.

    0
  • Просто люди начали играться с опасными вещами , создавая нейросети и ИИ, и главная опасность всего этого даже не в том, что там сделают супер ИИ аля "скайнет" и он захватит мир , а то что в нем могут быть баги , + к тому же велика вероятность внешнего взлома , вот допустим ближайшее будущее умный дом , забагал ИИ и ты тупо замерз или остался без света воды , и это мелочи, а если взлом провести у боевого робота например , который охраняет к примеру военный объект или базу , или еще что , то последствия такой деверсии будут непредсказуемы , уже сейчас те же америкосы кричат о хакерах , взломе выборов и прочего , вот возмет какая-то террористическая организация ломанет автороботов на какой нить военной базе , те в свою очередь выкосят этак тысяч 100 личного состава , а потом в этом можно обвинить будет например ту же Россию , а там и до обмена ядерными боеголовками не далеко=) тот кто это не понимает просто очень глупый , пусть уж лучше по старинке решают люди и гибнут тоже люди, просто не для кого не секрет что в любом софте делают закладки , закладки будут и в нейросети и в ИИ и как при ее самообучаемости она себя поведет предугадать сложно , к тому же людям всегда свойственно ошибаться , програмисты вон норьмальные дрова для железа написать не могут постоянно что-то фиксят патчат , а тут целая нейросеть с ИИ, мое мнение что к жизненоважным и стратегическим объектам ИИ подпускать вообще нельзя

    0
  • @Kolunyad, хорошо бы сожрали Северную Корею? И что в этом хорошего?

    0
  • @Kolunyad, в смысле факты? Вы под камнем живете?! То и дело террористы по всему миру нет-нет да прибегнут к химоружию. Не так давно был скандал, когда применение химоружия было зафиксировано в Сирии. Тогда амеры поспешили во всем обвинить регулярные войска САР, хотя звучало это как петросянский бред.
    О применении же сторонами подписавшими соглашение 1993 года о запрете химоружия пруфы искать бесполезно по очевидным причинам: они в использовании или поставке сабжа третьим сторонам ни в жизнь не признаются.
    Впрочем, химоружие так или иначе уходит в прошлое. Развитым державам с современными армиями оно не нужно, так как минусы перекрывают плюсы, даже без учета соглашения о запрете. Там и погодные условия нужно учитывать, и хранить эту дрянь у себя опасно. Да и справляется она не лучше современных ракет и бомб. Так что запреты не очень-то работают. А вот целесообразность - она то да.
    Будут боевые роботы целесообразны - будут их клепать как миленькие.

    0
  • @Archer, вы привели пример стороны, которая никак не ограничена этим урегулированием. Террористы не регулируются ООН и всеми документами. Вы после первой мировой приведите примеры масштабного использования химического оружия суверенной страной, которая подписала этот договор. Таких примеров нет. Документ работает. Если робот сойдет с ума, то будет примерно как в Mankind Divided - полное недоверие, а дальше и запреты. И они будут работать. Документы о клонировании работают и человека клона нет до сих пор.
    @mooncry, ну есть Северная Корея, а есть Южная, вроде бы, не надо больше аргументов, я не хочу, чтобы люди жили под гнетом смешных личностей диктаторов, которые до сих пор хотят кого-то убить и используют свою страну в этом всю, ради своего чувства собственного достоинства. Эгоизм в чистом виде.

    0
  • @Kolunyad, сейчас пороюсь в секретных архивах правительства и дам пруф. (сарказм)
    Поглядим как оно будет с ЯО.

    0
  • @Archer, а солдаты в боях не воюют, а исследователи потом по полям сражений не ходят и не воссоздают их, посмотрю я, как вы скроете применение химического оружия, ну-ну

    0
  • @Kolunyad, а что они потом докажут то? Пока в конфликте больше одной стороны, всегда есть на кого валить вину.
    С такими вещами ловить надо за руку.
    И потом ещё как-то надо привлечь к ответственности.
    Наконец, это не меняет того, что боевых роботов с ИИ на поле боя сейчас встретить сложнее, чем упомянутое химоружие, хотя их ещё не запретили. А все потому, что боевые действия ведутся теми средствами, которыми их вести целесообразно. Химоружие слишком капризно, малоэффективно против хорошо подготовленного противника и к тому же не очень законно, поэтому не популярно. Боевые роботы дороги и сложны в разработке, потенциально не безопасны и едва ли эффективнее обычных солдат и техники. Ну и зачем ими заморачиваться?
    Напоминает бредятину из Heavy Object.

    0
  • @Bishkrua, а зачем тебе автономный ии? В плане это 3 сторона. которая будет ограничена протоколами и тд. И что этой стороне кроме протоколов помешает наткнуть твою тыкву на вилы??? Да ничего.
    Родины как таковой нет, родители нет, единственное чему научили... убивать. Это даже если человека такого представить это шакаленок который будет идти по головам как по бульвару. А уж про машину вообще молчу.
    Ps (Hикого не жалко никого Hи тебя ни меня ни его(с)) и нах такое надо?

    0
Войдите на сайт чтобы оставлять комментарии.