Цукерберг заявил что сверхразумный ИИ "уже на горизонте" – но вы должны пользоваться только версией от Meta

Марк Цукерберг, глава Meta*, опубликовал открытое письмо под названием "Персональный сверхразум", в котором заявил, что искусственный сверхинтеллект (аналог AGI или искусственного общего интеллекта) "уже виднеется на горизонте".

Основная мысль послания Цукерберга сводится к тому, что сверхинтеллект скоро появится, он будет потрясающим и революционным, но, видимо, только если его создаст Meta. Сверхинтеллект от всех остальных компаний? Нет, такой вам точно не нужен.

Марк Цукерберг считает что люди без ИИ-очков окажутся "слабым звеном"

Глава Meta пишет:

Я крайне оптимистичен в том, что сверхинтеллект поможет человечеству ускорить темп прогресса. Но, возможно, еще важнее то, что сверхинтеллект потенциально способен начать новую эру личностного развития, где у людей будет больше возможностей улучшать мир в выбранных ими направлениях.

Каким бы глубоким ни было изобилие, которое когда-нибудь принесет ИИ, еще более значимое влияние на нашу жизнь, вероятно, окажет то, что у каждого будет персональный сверхинтеллект, который поможет достигать целей, создавать то, что вы хотите видеть в мире, переживать любые приключения, быть лучшим другом для тех, о ком вы заботитесь, и стать тем человеком, которым вы стремитесь быть.

Подвох, конечно, заключается в подразумеваемой угрозе, что этот прекрасный новый мир возможен только под благосклонным ИИ-руководством Meta. Все остальные, по мнению Цукерберга, настроены против вас.

Видение Meta – предоставить персональный сверхинтеллект каждому. Мы верим в то, что нужно вложить эту силу в руки людей, чтобы они направляли ее на то, что ценят в своей жизни. Это отличается от других в индустрии, которые считают, что сверхинтеллект должен быть централизованно направлен на автоматизацию всей ценной работы, а человечество будет жить на пособии от его результатов.

Таким образом, сверхинтеллект под управлением Meta представлен как своего рода турбоиндивидуализм, где каждый сможет максимизировать свои возможности. Под чьим-либо еще управлением – это якобы ярмо коллективного угнетения, где люди влачат жалкое существование благодаря универсальному базовому доходу, не имея ничего ценного или важного, чем можно заняться. Плебеи, проще говоря.

Конечно, трудно воспринимать Цукерберга всерьез, когда речь идет о пересечении технологий и этики, учитывая неоднозначную репутацию Meta. Послужной список компании в плане приоритизации собственных коммерческих интересов над интересами пользователей хорошо известен, особенно в погоне за вовлеченностью на своих платформах, похоже, любой ценой.

Поэтому когда Цукерберг говорит:

Сверхинтеллект поднимет новые вопросы безопасности. Нам нужно будет тщательно снижать эти риски и осторожно подходить к тому, что мы решим сделать открытым.

Возникает логичный вопрос – а как насчет снижения рисков на платформах, которые вы уже запустили, прежде чем браться за что-то еще более рискованное?

* — Meta признана в РФ экстремистской организацией и запрещена.