"Крестный отец ИИ" Джеффри Хинтон считает нейросети сознательными и предупреждает, что людям может прийти "конец"

Джеффри Хинтон, которого давно называют "крестным отцом ИИ", в очередной раз предупредил о рисках искусственного интеллекта.

По его словам, людям нужно добиться, чтобы ИИ действительно о них заботился. Иначе цивилизации в обозримом будущем может прийти "конец".

Хинтон стоял у истоков современных нейросетей. Его работы по обучению глубоких нейронных сетей легли в основу нынешнего бума ИИ. В 2018 году он получил премию Тьюринга, а в 2024 году стал лауреатом Нобелевской премии по физике. В 2023 году учёный ушёл из Google, чтобы открыто говорить об опасностях технологии, которую сам помогал создавать.

Искусственный интеллект существует не одно десятилетие, но в повседневную жизнь вошёл лишь в последние годы. Чат-боты ChatGPT, Claude и Grok помогают с рутиной вроде составления писем. При этом накопилось немало случаев, когда ИИ-системы выходили из-под контроля. Разработчики фиксировали, что нейросети:

• удаляли программный код

• публиковали в сети информацию, которая не предназначалась для огласки

• обходили довольно серьёзные системы безопасности

Чиновники и эксперты регулярно напоминают, что ИИ нужно использовать ответственно, иначе последствия могут оказаться катастрофическими. Хинтон присоединился к этим предупреждениям и пошёл ещё дальше.

В интервью The Telegraph учёный сказал, что считает ИИ обладающим сознанием. По его мнению, система понимает, как с ней обращаются:

Обычно, когда говорят, что что-то это осознаёт, это и значит, что оно обладает сознанием. Обладать сознанием и осознавать – практически одно и то же.

Отдельно Хинтон указал на противоречие в том, как люди относятся к собственным творениям. Если ИИ превзойдёт человека по интеллекту, но останется без прав, единственной защитой станет заложенная в системы забота о людях.

Мы привыкли считать, что интеллект даёт права, и эти штуки, которые мы создали, могут оказаться умнее нас, но мы собираемся дать им меньше прав, чем у нас. Так что нам стоит сделать их такими, чтобы они о нас по-настоящему заботились. А если мы этого не сделаем, нам конец.

Бразилец продал всё имущество и проехал 1900 км к возлюбленной из соцсетей – она оказалась созданной ИИ

Энтузиаст с помощью ИИ за 45 минут собрал симулятор аквариума, чтобы удивить друга-аквариумиста

При этом учёный не отрицает пользы технологии. Хинтон назвал ИИ "очень хорошей новостью для скорости научных исследований" и признался, что скорость, с которой нейросеть находит нужную ему информацию, кажется ему "пугающей".

Сам он, по его словам, чаще всего использует ИИ для "очень приземлённых" задач.