Глава OpenAI считает, что технологическая сингулярность уже наступила и ограничивать ИИ вредно для человечества

Технологические лидеры нередко делают громкие заявления, но руководители ИИ-компаний в этом плане особенно выделяются. Глава OpenAI Сэм Альтман в недавней беседе с ютубером Relentless заявил, что не просто надеется на наступление технологической сингулярности, а верит, что она уже наступила.

Альтман сказал в интервью:

Сейчас мы находимся как бы в сингулярности, это тот самый момент. Десять лет назад это в лучшем случае казалось далекой мечтой. Это выглядело крайне маловероятным, а сейчас мы буквально живем в том моменте, о котором раньше говорили за обеденным столом в совершенно несерьезном ключе.

Для тех, кто не увлекается научной фантастикой, стоит пояснить – сингулярность означает точку, в которой развитие машин, а в данном случае ИИ, превосходит человеческий контроль или человеческий интеллект.

Фактически это момент, когда джинна уже не загнать обратно в бутылку. Альтман, судя по всему, убежден, что генеративный ИИ стал настолько мощным, что уже превосходит человеческий разум.

Я ждал этого всю жизнь, и я думаю, это будет невероятно, крайне позитивно и потрясающе для всего мира.

При этом Альтман все же отметил и обратную сторону. Он критически высказался о "некоторых альтернативных видениях, которые рисуют другие компании", и считает, что ИИ еще предстоит серьезно доработать в плане безопасности. Глава OpenAI также признал наличие "серьезных экономических проблем, вопросов будущего рабочих мест и всего подобного".

Вместе с тем Альтман настаивает, что человечеству следует двигаться к миру "свободы", а не к "ИИ-авторитаризму":

Решим ли мы, что из-за вполне реальных проблем безопасности и экономических вопросов нам нужна одна единственная модель, которая станет машинным богом, или компания, связанная с этим… или же мы скажем – знаете что, пусть это будет немного хаотично, но каждый раз, когда человечество меняло свободу на безопасность, в долгосрочной перспективе это оборачивалось чистым проигрышем?

По сути, Альтман не хочет, чтобы ИИ подвергался жестким ограничениям.

Технологические компании обращаются к правительству США с призывом не закрывать доступ к ИИ-моделям с открытыми весами, аргументируя это тем, что более широкий доступ к таким моделям лучше подготовит пользователей ИИ к будущему.

Впрочем, это не мешает американским ИИ-компаниям запугивать открытыми китайскими ИИ-моделями.

Сэм Альтман заявил, что ИИ не сократит рабочую неделю – ведь люди тайно любят быть занятыми

Совершеннло логично, что Альтман, как глава одной из крупнейших ИИ-компаний в мире, не только убеждает всех в том, что ИИ уже опережает человечество, но и в том, что для человечества полезнее ставить развитие ИИ выше вопросов безопасности.

И, что самое важное, естественно, что ему выгодно, чтобы OpenAI сама регулировала себя, а не полагалась на решения сверху.