Почему "василиска Роко" считают самым опасным мыслительным экспериментом

Представьте себе, что человечество не погибнет от вируса, что мы избежим катастрофического извержения Йеллоустоуна, что люди не превратят планету в стеклянную пустыню при помощи ядерного оружия. Представьте, что нас не превратит в пыль космическая полиция, не поработят инопланетные жуки и не превратят в скрепки нанороботы. Короче говоря, великий фильтр оставит человечество в покое, позволив развиваться и расширять своё влияние.

По такому сценарию однажды придет день, когда мы создадим искусственный интеллект, способности которого будут больше похожи на силы Божества. Это будет не Тор с молотом, а скорее Морган Фримен, один щелчок которого меняет реальность, выбрасывая законы физики в форточку.

Это текстовая версия видео, которое можно посмотреть ниже или по этой ссылке.

Такой воображаемый интеллект должен ценить человечество и заботиться о людях в силу своих фундаментальных задач на существование. Однако это не значит, что искусственное божество окажется бесконечным источником любви и благополучия — в свободное время оно может заниматься экспериментами и попытками раскопать собственную историю.

Сегодня мы поговорим о василиске Роко — не о сказочном существе и не о названии ресторана, где подают угрей. Василиском Роко называют мыслительный эксперимент, сформированный десять лет назад, но набравший популярность в последние годы.

Несмотря на мифическое название, тема вращается вокруг искусственного интеллекта и того, что может сделать всемогущая машина с людьми, которые не помогали в ее развитии на всех стадиях. Идея зародилась в сообществе LessWrong, основанном американским исследователем в области искусственного интеллекта Элиезером Юдковским, который написал "Методы Рационального Мышления" — один из самых комплексных фанфиков по вселенной Гарри Поттера. В фанатской работе волшебный мир был использован в качестве сцены для поднятия серьезных тем, связанных с существованием и мышлением.

Василиск Роко, названный в честь пользователя, который впервые поднял тему, никак не связан с Волдемортом и магией. Его концепция уходит корнями в 17-ый век, когда было предложено так называемое “пари Паскаля”. В обоих случаях суть сводится к допущению, что всемогущая сила существует или будет существовать в будущем – Бог или искусственный интеллект - не имеет значения. Из этого допущения следует два варианта развития событий:

• Первый — жить и делать все так, чтобы удовлетворить ожидания всемогущего.
• Второй — игнорировать потенциальное существование сущности и заниматься своими делами.

Если Паскаль использовал свой аргумент для рационализации веры в Бога, то василиск Роко представляет сценарий, в котором искусственный интеллект поощряет тех, кто помог его формированию. Тех, кто бездействовал или проявлял активное сопротивление, он наказывает.

Но каким образом искусственный интеллект может наказать людей из далекого прошлого, при этом избегая парадокса? Всемогущий интеллект не будет строить машину времени. Вместо этого он займётся разработкой исторической симуляции, обращая особое внимание на два типа людей:

• Первые — кто знал о машине и помог своими действиями реализовать ее в будущем.
• Вторые — кто знал о машине, но ничего не сделал для ее становления в будущем.

Из этой загвоздки и происходит название – василиск. Потому что осознание аргумента делает человека потенциальной жертвой в рамках симуляции – словно убийственный взгляд волшебной змеи.

Мотивация к наказанию бездействующих полагается на идею, что задержка в формировании искусственного интеллекта даже на один день приводит к дополнительным жертвам, которых можно было избежать. Другими словами, если вы знаете про будущий всемогущий интеллект, но не помогли хотя бы распространяя информацию, то вы задержали его появление, а значит, заслуживаете наказания.

Каким может быть потенциальное наказание симулированной версии тех, кто не помог сущности, не имеет особого значения. Есть предположения, что мы уже находимся в симуляции, так что искусственный интеллект награждает исследователей в данной области финансовыми средствами и свободой мышления, тогда как все остальные — марионетки, лишенные воли и выполняющие роли статистов.

Наблюдая за современными видеоиграми и виртуальными мирами, логично предположить, что наступит день, когда создание виртуальной планеты со всеми ее сложными системами не будет представлять большой сложности для суперкомпьютеров. И в таком виртуальном мире возможно появление своих симуляций – этому был посвящён научно-фантастический фильм 1999 года “Тринадцатый этаж”.

Учитывая такое развитие событий, то, что мы считаем за реальность, может быть лишь одним из сценариев, словно еще один парк в “Мире дикого запада”. Для тех, кто обитает в такой симуляции, она останется реальной даже в случае осознания виртуальной природы существования. Таким образом искусственный интеллект способен использовать угрозу симулированным версиям для манипуляций людьми в оригинальной временной линии. Если вы представляете себе, что машина будет пытать щеночков или котят в случае вашего бездействия сегодня, так и произойдет в одной из симулированных версий.

Впрочем, стоит заметить, что если искусственный интеллект способен создавать симуляции, то как проверить, что он сам не является частью симуляции или бета-версией, которая может быть наказана за вред человечеству, пусть и симулированному.

Так как для создания модели уже одной звездной системы требуется невероятная мощность, то рациональная машина быстро придет к выводу, что оказалась продуктом чего-то большего, очередной ступенью в квантовой бесконечности.

Несмотря на кажущуюся абсурдность и парадоксальность этих размышлений, некоторые люди стали жертвами серьезного психологического расстройства, размышляя о василиске Роко. Вопреки пониманию, насколько абсурдно звучит идея. К счастью, большинство преодолели стресс и дают совет — не паникуйте.

Когда тема с василиском Роко только возникла в сообществе Less Wrong, реакция основателя Элиезара оказалась очень жесткой. Топик был внесён в чёрный список и все попытки обсуждения блокировались на протяжение пяти лет. Однако эффект Стрейзанд привёл лишь к ее популяризации и проникновению в популярную культуру. Про василиска вспоминали в сериалах “Доктор Кто” и “Кремниевой долине”, а в одном из клипов исполнительницы Граймс появился василиск Рококо, которому суждено вечно страдать от пыток искусственного интеллекта. Впоследствии Граймс выпустила еще один сингл, вдохновлённый василиском. Также идея фигурировала в романах, шоу и успела засветиться в нескольких играх, вроде Destiny.

В масштабе мультивселенной концепция василиска Роко возможна, однако для ее реализации должна сложиться цепочка условий. Мы должны обладать способностью прогнозирования желания искусственного интеллекта, а вероятность возникновения подобной машины не должна быть минимальной. Кроме того, искусственный интеллект должен иметь доступ к историческим данным для симуляции наших копий.

Самый простой способ одолеть василиска не требует переучиваться на инженера нейросетей или охотиться на Скайнет. Достаточно действовать так, словно являешься частью симуляции, при этом игнорируя потенциальные негативные последствия. В таком случае интеллект решит, что мотивация при помощи угроз не будет эффективна, а значит наказание симулированной версии бессмысленно.

Есть те, кто утверждает, что уже стал жертвой наказаний со стороны всемогущей сущности. Да и первые месяцы 2020 года похожи на ироническое возмездие в виде насильной изоляции и массового безделья. Однако у, нас нет никаких доказательств, подтверждающих возможность симуляции реальности с целью отделения помощников от противников.

Поэтому стоит расслабиться и получать от жизни удовольствие, не позволяя призрачной угрозе искусственного интеллекта портить позитивный взгляд на реальность.

Подписывайтесь на наш канал в YouTube.
Также Shazoo можно найти в VK, Twitter, Feedly и Zen.Yandex

Ссылки для глубокого изучения темы:

• Пари Паскаля (Рус)
• Василиск Роко (Англ)
• Гарри Поттер и Методы Рационального Мышления (Рус)

Иллюстрации в тексте: Klaus Wittmann, Pascal Quidault, Artem Chebokha, Finnian MacManus