Американские хакеры начали использовать ИИ, чтобы обманывать сервисы доставки и их клиентов

Писатель Бирн Хобарт столкнулся с необычным случаем мошенничества в сервисе доставки еды DoorDash. Курьер принял заказ, немедленно отметил его как доставленный и прикрепил созданное ИИ изображение якобы оставленного у двери заказа. На фейковом снимке виден пакет DoorDash у входной двери, которая приблизительно похожа на реальную дверь дома Хобарта, но детали явно сгенерированы нейросетью.

По мнению Хобарта, схема работает через взломанные аккаунты курьеров. Мошенники используют телефоны с джейлбрейком для подмены GPS-координат и загрузки поддельных изображений, меняют привязанную банковскую карту и выполняют серию фиктивных доставок с мгновенным выводом средств. Изображение двери вероятно взято из функции DoorDash, которая показывает фото успешных предыдущих доставок – оно оказалось слишком размытым для Google Street View.

DoorDash оперативно отправила замену заказа без дополнительной платы и предоставила кредит на счет. Хобарт отметил, что еда прибыла в первоначальное окно доставки, так как блюда уже были готовы к моменту назначения второго курьера. Другой пользователь из Остина сообщил о похожем инциденте с курьером под тем же именем в профиле.

Хобарт поинтересовался экономической целесообразностью схемы, отметив, что покупка взломанного аккаунта для единичного мошенничества нерентабельна, а регулярное использование быстро приведет к бану. Некоторые пользователи предложили DoorDash ограничить возможность загрузки фото, разрешив только съемку через камеру приложения, хотя сервис допускает загрузку при плохом соединении.

Один из пользователей X сделал пост, который набрал еще больше лайков, чем изначальный с довольно критичным социальным комментарием тенденции:

Фейковые заказы DoorDash. Фейковые фото строительства. Фейковые домашние задания. Фейковое все – просто ящик Пандоры промышленного масштаба, загрязняющий как планету, так и базовый общественный договор, который и так висел на волоске.

Пока непонятно, как даже противостоять этому. По сути, любой человек, хоть северокорейский хакер, хоть сомалийский пират, может купить аккаунт, принять заказ и отметить, что доставил его таким фото.