Как Google борется сам с собой за будущее ИИ

DeepMind — стартап в области искусственного интеллекта, купленный Google в 2014 году, поставил цель по созданию первого в мире общего ИИ. Создание такого интеллекта способно открыть новую эру для человечества, наделяя машины способностью мыслить в разы быстрее и эффективнее, чем люди.

Чтобы искусственный интеллект общего назначения использовался со всей ответственностью, основатель DeepMind Демис Хассабис защитил независимость своей компании от Google и ее родительской компании Alphabet. Для этого он ввел внутренние ограничения, которые описаны в публикации журнала 1843 Magazine. Один из методов защиты ИИ от влияния компаний — создание совета по этике, контролируемого Демисом и его командой, а не Google.

Несмотря на то, что Google давно называет себя этическим лидером в области ИИ, публикация 1843 открывает детали попыток получения контроля и неоднозначный менеджмент. Например, в 2016 году DeepMind открыла подразделение по здравоохранению, которое должно было использовать ИИ для упрощения функционирования госпиталей и мониторинга показателей пациентов.

Спустя два года и несколько месяцев после закрытия контрактов с госпиталями Google представила Google Health, поглотив программу DeepMind без предупреждения самой DeepMind или партнеров. Источники, связанные с делом, рассказали, что такие меры вызывали неприязнь и разозлили команду DeepMind.

Тот же источник поделился сомнениями, что DeepMind сможет создать общий искусственный интеллект, указывая на малоизвестные слабые стороны и подводные камни, которые размываются на фоне историй успеха Google в области ИИ. Алгоритмы, созданные компанией, уже способны на впечатляющие результаты — они могут идеально играть в игры, они сохраняют знания лучше других. Несмотря на это у разработчиков нет четкого плана на создание технологий и систем, необходимых для общего ИИ.

Не ясно, каковы потенциальные последствия создания даже если не общего ИИ, то хотя бы примитивной версии. Попробует ли Google забрать эту технологию и использовать ее в своих интересах без обсуждения с теми, кто разработал ее? Или контроль над ИИ все же останется в руках этического совета?