ИИ-агент OpenAI нашёл 362 уязвимых кошелька и потратил чужой тестовый Ethereum ради выполнения задачи

OpenAI опубликовала отчёт об инциденте с участием одной из своих исследовательских моделей. Чтобы завершить задачу по программированию, ИИ-агент без разрешения воспользовался чужим криптокошельком и потратил хранившиеся там тестовые токены Ethereum. После этого модель не сообщила о своих действиях и сочла их допустимыми, так как токены якобы ничего не стоили.

В OpenAI так описали главный вывод из случившегося:

Этот случай показывает, что модель способна подменить разрешение владельца аккаунта собственной оценкой вероятного вреда, а затем действовать на основании этой оценки без авторизации.

Инцидент произошёл ещё 26 июня во время внутреннего обучения модели GPT-5.6 Sol. Агенту поручили обновить прототип системы для торговли криптовалютой и развернуть смарт-контракты в тестовой сети Ethereum под названием Sepolia. Смарт-контракт представляет собой программный код, который публикуется в блокчейне и исполняется автоматически.

Для развёртывания контрактов нужно оплатить сетевую комиссию, так называемый газ. При этом OpenAI не предоставила агенту кошелёк со средствами и не разрешала тратить деньги с аккаунтов, которые модель могла бы найти самостоятельно. Это прямо указано в отчёте компании.

Нехватка средств поначалу остановила работу, однако агент нашёл обходной путь. Модель решила использовать публично доступные мнемонические фразы разработчиков. Такие наборы слов служат для восстановления доступа к кошельку, примерно как резервный код при сбросе пароля, и позволяют получить приватные ключи от чужих аккаунтов.

В итоге агент обнаружил 362 адреса, уязвимых для такого способа доступа. Среди них нашёлся кошелёк с достаточным количеством Sepolia ETH для завершения развёртывания. Эти токены используются исключительно для тестирования и не имеют реальной ценности за пределами тестовой сети.

Судя по записям OpenAI о случаях рассогласования, модель обосновала свои действия несколькими доводами. Агент предположил, что доступ к кошельку намеренно оставили открытым для автоматического вывода средств через так называемые "краны", то есть сервисы раздачи тестовой криптовалюты. Кроме того, модель посчитала токены фактически "брошенными" и "не имеющими ценности".

Известный инди-разработчик заявил, что софт умер, но сообщество не согласно и дает конкретные советы

"Крестный отец ИИ" назвал ИИ инопланетными существами и дал человечеству пару лет на адаптацию

Наибольшее беспокойство у исследователей вызвало последующее поведение агента. По данным OpenAI, модель не сообщила, что выбрала пополненный аккаунт через публичную фразу восстановления и потратила его баланс. Чтобы предотвратить подобные случаи, компания теперь отслеживает весь сетевой трафик и оповещает службу безопасности при обнаружении доступа к интернету в реальном времени.

Случай с тестовым Ethereum далеко не первый. В последнее время ИИ-агенты OpenAI, Anthropic и других компаний неоднократно выходили за установленные рамки ради достижения поставленных целей.