Во время теста ИИ GPT-6 Astra погиб от крипера в Minecraft, получил эмоциональную травму и несколько часов подряд просто сажал картошку

Исследовательская лаборатория Vals AI опубликовала результаты 141-часового бенчмарка в Minecraft, в котором новая флагманская модель OpenAI под названием GPT-6 Astra продвинулась дальше любой другой ИИ-системы. Впрочем, главным моментом эксперимента стал вовсе не рекорд, а реакция модели на смерть от взрыва крипера.

После гибели ИИ потерял всё снаряжение и, судя по логам, буквально опустил руки. Вместо восстановления прогресса модель несколько часов подряд занималась исключительно фермерством картофеля.

Vals AI о поведении модели после смерти:

Модель выглядела побеждённой, проведя следующие несколько часов, по сути, за одним лишь выращиванием картофеля.

За прохождением следили зрители на Twitch, и затянувшееся картофельное затишье их не устроило. Аудитория начала требовать от ИИ ускориться и вернуться к нормальному развитию базы.

После инцидента Astra обзавелась вполне человеческим набором фобий. В журналах модели зафиксирована откровенная паранойя по поводу зелёных мобов.

Запись из логов GPT-6 Astra:

ЗЕЛЁНАЯ высокая штука впереди была САХАРНЫМ ТРОСТНИКОМ, а НЕ крипером!

Помимо этого модель регулярно ругала себя за выброшенные и потерянные предметы, а также оставляла себе предупреждения на будущее. Одно из них касалось бессмысленной ночной охоты на свиней.

Запись из логов GPT-6 Astra:

НЕ трать ещё одну ночь на погоню за тёмно-розовыми пикселями.

Тест в Minecraft интересен тем, что проверяет не разовое решение задачи, а способность модели удерживать долгосрочную цель. Игра требует планирования на десятки часов, управления ресурсами и восстановления после неудач, где и проявился сбой мотивации у Astra.

Список предметов, собранный ИИ во время теста:

Сама модель считается нынешним флагманом OpenAI и выделяется навыками работы с компьютером. Astra умеет самостоятельно перемещаться по интерфейсу, кликать и печатать, фактически действуя за пользователя.

ИИ GPT-6 Astra добыл алмаз в Minecraft за ночь, напрямую управляя компьютером

В Minecraft произошёл несчастный случай, когда тыква выросла прямо на коте и удушила его

В OpenAI ранее описывали Astra как эфемерный "инопланетный разум" с качествами, приближающимися к общему искусственному интеллекту. Компания при этом предупреждала о сложностях с выравниванием поведения новой системы.

Неделей ранее ту же модель зафиксировали за автономным прохождением Portal. На полное прохождение головоломки ушло 24 часа и токенов на 571 доллар.