"Крёстный отец ИИ" ушел из Google из-за этических опасений

Один из значимых людей в области искусственного интеллекта совершил неожиданный карьерный шаг. Джеффри Хинтон, прозванный "крёстным отцом ИИ", рассказал The New York Times, что он ушел с должности вице-президента и инженера-исследователя Google в апреле, чтобы открыто предостерегать об опасностях, связанных с этой технологией. Ученый обеспокоен тем, что Google отказывается от прежней сдержанности в отношении публичных релизов ИИ с целью конкурировать с ChatGPT, Bing Chat и аналогичными моделями, открывая двери для множества этических проблем.

В ближайшем будущем Хинтон опасается, что генеративный ИИ может привести к волне дезинформации. Ему также не дает покоя потенциал ИИ как в устранении "скучной работы", так и полной замене многих рабочих мест. Ученый обеспокоен появлением полностью автономного оружия и тенденцией моделей ИИ к изучению странных поведенческих моделей из обучающих данных. Хотя некоторые из этих проблем пока теоретические, Хинтон опасается обострения без регуляций или эффективных контрольных мер.

Хинтон говорит, что его позиция начала меняться в прошлом году, когда Google, OpenAI и другие начали создавать системы ИИ, которые, по его мнению, иногда превосходят человеческий интеллект. ИИ развился настолько стремительно всего за последние пять лет, что ученому страшно предположить, как все сложится в следующие пять.

Главный исследователь Google Джефф Дин сообщил, что компания по-прежнему стремится к "ответственному подходу" и находится в готовности к "возникающим рискам". Недавно поисковый гигант выпустил черновую версию своего чат-бота Bard, после месяцев слухов о том, что компания беспокоится о конкурентной угрозе генеративного ChatGPT. До этого Google отказывалась публично выпускать ИИ-модели, такие как свой ориентированный на искусство Imagen, из-за потенциала для токсичного контента и нарушений авторских прав.

Хинтон посвятил свою карьеру изучению нейронных сетей, которые часто играют ключевую роль в ИИ, но наиболее известен разработкой системы распознавания объектов. Google купил стартап DNNresearch Хинтона в 2013 году, и основная концепция его изобретения способствовала всплеску разработок, которые привели к современной генеративной технологии.

Хинтон не один в своих опасениях. Ряд влиятельных ученых и деятелей технологической индустрии, включая Илона Маска и Стива Возняка, недавно подписали открытое письмо с призывом к шестимесячной паузе в разработке ИИ для решения этических и проблем безопасности.