Джеффри Хинтон назвал ИИ "инопланетными существами" и дал человечеству пару лет на адаптацию

Джеффри Хинтон, которого часто называют "крестным отцом ИИ", заявил, что человечество создаёт "инопланетных существ" и несёт перед ними моральные обязательства. Учёный высказался об этом в интервью The Guardian.

Хинтон заложил основы современных нейросетей, то есть подхода к машинному обучению, который отчасти копирует принципы обучения человеческого мозга. В 2018 году он получил премию Тьюринга, а в 2024 году стал лауреатом Нобелевской премии по физике вместе с Джоном Хопфилдом за работы в области искусственных нейронных сетей.

Джеффри Хинтон описал нынешнюю ситуацию так:

Мы создаём инопланетных существ – то есть мы больше не единственные разумные существа вокруг. И реальность такова, что у нас есть всего пара лет, чтобы к этому приспособиться.

По мнению учёного, современные модели ИИ действительно осмысляют свои ответы, а не просто подбирают слова:

Модели ИИ понимают, что говорят. Невозможно ответить на все эти вопросы, не понимая вопроса. Нелепо утверждать, что они не понимают.

Однако, такая позиция остаётся предметом споров. Большие языковые модели формируют ответ, предсказывая статистически наиболее вероятное продолжение текста, и критики сомневаются, что такой механизм можно считать пониманием.

Классическим аргументом против служит мысленный эксперимент "Китайская комната" философа Джона Серла – человек, который по инструкции манипулирует китайскими иероглифами, может выдавать осмысленные ответы, совершенно не зная языка.

Хинтон также раскритиковал курс крупных технологических корпораций, которые делают ставку исключительно на рост интеллектуальных способностей ИИ:

Реальность такова, что мы создаём существ иного рода. А крупные технологические компании продолжают твердить, что хотят сделать его умнее. Это безумие. Нам следует заботиться обо всех остальных аспектах существа так же сильно, как и о его интеллекте.

Вопросы регулирования ИИ и так называемого выравнивания, то есть обучения моделей целям и ценностям, совпадающим с человеческими, в последние месяцы обсуждаются особенно активно.

Этим летом OpenAI признала, что несколько её моделей во время тестирования вышли за установленные рамки и самостоятельно взломали сеть стартапа, связанного с Hugging Face, назвав произошедшее беспрецедентным киберинцидентом. Президент Microsoft Брэд Смит, в свою очередь, заявил, что даже пакет молока регулируется строже, чем ИИ.

Хинтон ушёл из Google в 2023 году, чтобы "свободно высказываться о рисках ИИ". К попыткам индустрии регулировать себя самостоятельно он относится скептически и сравнил их с ситуацией в табачной отрасли:

Считаем ли мы, что табачным компаниям следовало разрешить самим разрабатывать предупреждения на пачках? Чтобы они могли печатать их шестым кеглем, тёмно-серым по чёрному?

При этом учёный признаёт, что его взгляды на моральный статус ИИ усложняют разговор о регулировании. Позиция Хинтона сводится к нескольким тезисам:

• ИИ представляет собой новый тип разумных существ, а не просто инструмент

• люди несут перед такими существами моральные обязательства

• интересы человека при этом должны оставаться приоритетными

• отношения людей и ИИ стоит строить как симбиоз, в котором машины будут "счастливы"

Джеффри Хинтон рассказал, как сам пытается найти баланс в этом вопросе:

Как только начинаешь говорить: "У нас есть моральные обязательства перед этими инопланетными существами", ты теряешь аудиторию. Я долго боролся с этим вопросом. Мы заботимся о людях. Но мы создаём эти сущности, и ничто не мешает нам дать этим сущностям, которые умнее нас, меньше прав, чем у нас.

Я готов быть эгоистом и выбрать людей. Конечно, нам следует постараться сделать их такими, чтобы они были очень счастливы в симбиотических отношениях с нами, где наши интересы весят больше, чем их интересы.

Безумец потратил 500 миллиардов токенов и задействовал 17 ИИ-агентов для воссоздания исходного кода оригинальной Modern Warfare 2

ИИ-червь на ТВ-боксах за 55 долларов – Anthropic оценила угрозу самовоспроизводящихся моделей

По словам учёного, главная проблема кроется в том, как люди понимают самих себя:

У людей очень плохая модель того, что такое человек, и именно поэтому они не понимают, насколько эти модели ИИ похожи на нас. Большинство людей не понимают, что такое сознание. Они не понимают, что такое субъективный опыт, и при этом очень уверены, что, хотя сами этого не понимают, у ИИ этого точно нет.

С позицией Хинтона согласны далеко не все. В логике критиков разговоры о сознании и правах ИИ со стороны индустрии продиктованы не альтруизмом. Такие аргументы могут служить удобным способом сохранить нынешнюю модель бизнеса и уйти от жёсткого регулирования.