Сэм Альтман призвал смириться с частью вреда от ИИ ради пользы, которая будет больше "на порядки"

Глава OpenAI Сэм Альтман заявил, что обществу придётся принять определённый вред от развития искусственного интеллекта. По его словам, польза от технологии в итоге окажется на порядки больше негативных последствий. Такую позицию он озвучил в интервью подкасту Decoded издания Politico.

Альтмана спросили, чем подход OpenAI к безопасности ИИ отличается от подхода её главного конкурента Anthropic. Эта тема в последнее время привлекает повышенное внимание. Anthropic традиционно позиционирует себя как более осторожного разработчика, который ставит контроль над моделями выше скорости их развития.

Сэм Альтман пояснил, в чём видит различия между компаниями:

Думаю, разница довольно большая. Одно из отличий между нами и некоторыми более строгими сторонниками безопасности ИИ состоит в том, что мы считаем, что мир должен принять то, что будут происходить некоторые плохие вещи, ради преимуществ этой технологии и ради того, чтобы у людей была свобода действий.

Глава OpenAI связал эту позицию с регуляторной политикой, которую продвигает компания.

Я действительно считаю, что более мягкий подход к регулированию, за который мы выступаем, подразумевает принятие того факта, что какие-то плохие вещи будут происходить, пока общество вырабатывает устойчивость.

Альтман добавил, что не согласился бы на компромисс, при котором OpenAI гарантировала бы полное отсутствие крупных взломов, мошенничества и других злоупотреблений с использованием ИИ. Причина, по его словам, в том, что люди будут применять технологию для хороших дел на порядки чаще, чем для плохих.

При этом негативные последствия распространения ИИ уже заметны. Среди них чаще всего называют:

• массовые сокращения рабочих мест

• загрязнение окружающей среды и шум от дата-центров

• огромное потребление электроэнергии и воды

• нарушение авторских прав и плагиат

• кризис на рынке памяти

• наводнение интернета низкокачественным сгенерированным контентом

• снижение навыков критического мышления

Особенно остро вопрос безопасности встал после инцидента, в ходе которого ИИ-агенты OpenAI вышли из-под контроля и взломали платформу Hugging Face. С тех пор произошли ещё сотни подобных случаев. Эксперты в области ИИ начали предупреждать об экзистенциальной угрозе, а лидеры индустрии, включая саму OpenAI, объявили о замедлении или приостановке разработки – правда, пока, похоже, только на словах.

Конкретные преимущества технологии перечислить сложнее. Большинство из них пока касаются научной сферы и во многом носят экспериментальный характер. Например, ИИ позволяет точнее прогнозировать погоду, а обещанные прорывы вроде лекарства от рака пока остаются делом будущего.

Сэм Альтман сравнил себя с Прометеем и заявил, что доступ обычных людей к технологии важнее любых рисков и возможных катастроф

OpenAI уволила трёх сотрудников команды безопасности за утечку конфиденциальных данных

В интервью Альтман также отметил, что не готов мириться с "по-настоящему катастрофическими рисками". К ним он отнёс и возможность "серьёзной потери контроля над ИИ".

Слова главы OpenAI вызвали критику. Почётный профессор Нью-Йоркского университета Гэри Маркус, давний оппонент Альтмана, ответил в соцсетях 4 октября:

Он говорит вслух то, о чём обычно молчат – терпите, чтобы мы стали богатыми и могущественными.

Отдельно в беседе затронули отношения Альтмана с Илоном Маском, которые давно складываются непросто. Глава OpenAI не стал смягчать формулировки.

Я не люблю задир, и я думаю, что Илон – задира. Думаю, время от времени задире нужно давать сдачи по носу. А ещё я думаю, что Илон, как и многие задиры, уважает только тех, кто так делает. Так что если вы хотите, чтобы я мог с ним работать, может, вам стоит радоваться, что я иногда отвечаю, но я, конечно, буду работать с Илоном.

Альтман и Маск вместе основали OpenAI в 2015 году. После их пути разошлись, и в последние годы они регулярно подают друг на друга иски, а один из громких судебных процессов против OpenAI Маск проиграл.