OpenAI поддержала идею Anthropic по созданию международной организации по надзору за развитием ИИ

OpenAI выступила с инициативой создания международной организации по надзору за развитием искусственного интеллекта. Глава компании Сэм Альтман и главный учёный Якуб Пахоцки опубликовали совместное заявление, в котором назвали такую структуру необходимым условием для безопасного продвижения технологии вперёд.

Суть предложения сводится к простому, но нетривиальному тезису: кто-то внешний должен иметь полномочия замедлить гонку, если ситуация выйдет из-под контроля.

Одна из целей такой организации – обеспечить возможность координированных действий, включая замедление разработки передовых моделей, когда это потребуется, чтобы устойчивость общества, безопасность и согласованность успевали за развитием технологий.

Неделей ранее с похожей позицией выступила Anthropic, главный конкурент OpenAI. Компания заявила, что скоординированное замедление разработок "вероятно, было бы хорошим шагом" при условии его реальной осуществимости. Поводом послужили внутренние данные о так называемом "рекурсивном самосовершенствовании" – способности моделей ИИ обучать следующие, более продвинутые версии самих себя.

Anthropic предложила глобально замедлить разработку ИИ из-за риска самоулучшающихся систем

Именно этот сценарий несёт в себе ключевой риск: если ИИ начнёт самостоятельно ускорять собственное развитие, темп прогресса может стать непредсказуемым. Это и есть тот самый "взрыв интеллекта", о котором предупреждали авторы открытого письма 2023 года с призывом поставить на паузу разработки моделей на шесть месяцев. Под ним тогда подписались Илон Маск, лауреат премии Тьюринга Ёшуа Бенжио и другие видные фигуры технологической отрасли.

OpenAI не просто разделяет эти опасения, но и говорит о конкретных сроках. По оценке Альтмана и Пахоцки, уже к марту 2028 года "значительная часть исследований будет проводиться ИИ-системами совместно с нашими собственными учёными". Разработка "автоматизированного ИИ-исследователя" названа одной из приоритетных задач компании прямо сейчас.

Параллельно OpenAI декларирует и более амбициозную цель – предоставить каждому жителю планеты "персональный AGI". Само понятие AGI, или общего искусственного интеллекта, по-прежнему не имеет общепринятого определения в отрасли. Обычно под ним понимают систему, способную выполнять любые когнитивные задачи не хуже среднестатистического человека, однако достижимость этой планки на базе архитектур больших языковых моделей остаётся предметом споров.

Для OpenAI AGI долгое время служил размытым, но эффективным обещанием инвесторам. Стратегия работала: до недавнего времени компания удерживала статус самого дорогостоящего стартапа в мире. Однако в этом месяце её обошла Anthropic. Обе компании готовятся к выходу на биржу в 2026 году, и именно этот факт придаёт их призывам к внешнему надзору особый вес. Фидуциарные обязательства перед акционерами и требования безопасности могут вступить в прямое противоречие – и обе компании, судя по всему, это прекрасно понимают.