ИИ-агенты могут быть взломаны для кражи криптовалюты

Исследователи из Принстонского университета предупреждают о серьезных рисках безопасности ИИ-агентов в недавно опубликованной работе "Реальные ИИ-агенты с фальшивыми воспоминаниями". Исследование показывает, что использование ИИ-агентов для финансовых операций может быть крайне опасным, так как они остаются уязвимыми к простым промпт-атакам, несмотря на заявленные средства защиты.

В 2025 году некоторые пользователи Web3 доверяют ИИ-агентам управление криптокошельками, смарт-контрактами и другими финансовыми инструментами. Исследователи из Принстона продемонстрировали, как злоумышленники могут взломать этих агентов для перенаправления финансовых активов, имплантируя ложные воспоминания и создавая фальшивый контекст.

Команда исследователей провела тестирование своей "Атаки манипуляции контекстом" на реальной системе ElizaOS. Они обнаружили, что даже современные защиты на основе промптов не справляются с атаками инъекции памяти, а ложные воспоминания могут сохраняться между взаимодействиями и платформами.

Особую опасность представляет то, что агенты ElizaOS разработаны для одновременного взаимодействия с несколькими пользователями, полагаясь на общие контекстные данные. Это означает, что один злоумышленник может скомпрометировать всю систему, что приводит к потенциально разрушительным потерям для всех участников.

Исследователи рекомендуют пользователям воздержаться от доверия ИИ-агентам финансово чувствительных данных. Для решения проблемы предлагается двусторонняя стратегия: улучшение методов обучения языковых моделей для повышения устойчивости к атакам и разработка систем управления памятью с гарантиями изоляции и целостности данных.