Шесть крупнейших банков предупредили о пяти рисках покупок через ИИ-агентов
Шесть глобальных банков, включая Bank of America и Capital One, выпустили во вторник совместный документ о рисках агентной коммерции.
Авторы отчёта утверждают, что автоматизированные покупки несут угрозы, охватывающие прозрачность, безопасность, приватность и данные, свободу выбора и совместимость систем. Чем больше самостоятельности получает ИИ-агент, тем сильнее растут эти риски.
Разработчики нейросетей, ретейлеры и платёжные системы последние месяцы активно продвигают чат-ботов, способных самостоятельно оформлять заказы. Mastercard уже выдаёт ИИ-агентам виртуальные карты для оплаты покупок, а OpenAI добавила ChatGPT возможность покупать товары за пользователя. При этом реальный масштаб внедрения посчитать сложно.
Часть покупателей действительно пользуется чат-ботами для поиска товаров и сравнения характеристик. Однако немногие готовы дать алгоритму свободный доступ ко всем своим деньгам. Вот что сказано в отчёте:
Потребители не понимают, будут ли ИИ-агенты действовать в их интересах. Они обеспокоены тем, что ИИ-агенты могут купить не тот товар или потратить слишком много, или, что ещё хуже, потерять их деньги из-за мошенничества и обмана.
Отдельное беспокойство вызывает мотивация самих алгоритмов. Агент может продвигать конкретные товары или способы оплаты не потому, что они выгодны покупателю, а из-за более высоких комиссий партнёров или меньшей стоимости обработки токенов.
Банки также указывают на потенциальный рост числа мошеннических схем и спорных транзакций. Любая утечка в такой системе поставит под удар особенно чувствительные данные покупателей и продавцов, которые доверились агентам.
Свежий пример подвернулся почти сразу. Meta* сообщила об обнаружении и устранении уязвимости нулевого дня в новом ИИ-ассистенте Muse, среди заявленных функций которого есть автоматические покупки. Брешь позволяла атакующему перехватить контроль над ассистентом и воспользоваться всеми разрешениями, которые ему выдал пользователь.
За день до этого Amazon потребовала от Muse прекратить работу с её торговой площадкой. Причина в том, что агент Meta не идентифицировал себя при совершении покупок, что породило вопросы к обращению с учётными данными и информацией об аккаунтах клиентов.
Скепсис разделяют и в индустрии розничной торговли. Рон Джонсон, бывший руководитель Apple и создатель первых фирменных магазинов компании, в недавнем интервью TechCrunch заявил, что нейросети улучшат онлайн-шопинг, но не изменят саму модель покупок.
Рон Джонсон, бывший топ-менеджер Apple, говорит:
ИИ никогда не сможет дать вам физически испытать продукт. Они просто станут более информированными покупателями, когда придут в магазин.
При этом авторы документа под названием "Building Trust in Agentic Commerce" не отвергают идею целиком. Финансовые организации допускают, что агентная коммерция способна стать массовым способом взаимодействия покупателей и продавцов.
Из позиции консорциума банков:
Мы тоже воодушевлены перспективами агентной коммерции и стремимся работать с клиентами, индустрией и заинтересованными сторонами, чтобы обеспечить её будущее.
Главным условием банки называют доверие, которое должно опираться на отраслевые стандарты, регламенты и механизмы защиты потребителей. Сейчас все эти элементы отстают от темпов развития технологий.
Консорциум уже готовит второй документ. В нём разберут, как именно реализовать пять ключевых принципов из первого отчёта:
прозрачность
безопасность
приватность и работа с данными
свобода выбора
совместимость систем
*– Meta признана экстремистской организацией, ее деятельность запрещена на территории России
- За первую неделю года в Steam вышло 230 игр и треть из них сделаны при помощи ИИ
- Аналитики говорят, что ИИ так и не привел к повышению производительности труда – но его используют как повод для увольнений
- Мать ребенка Илона Маска подала иск против xAI из-за дипфейков с ее участием
Об авторе
