Клиент социально взломал чат-бота сайта маленького бизнеса и уговорил предоставить скидку 80% на заказ стоимостью £8000

Владелец малого бизнеса в Англии столкнулся с необычной проблемой после внедрения ИИ-чат-ассистента на сайт компании. Клиент провел час в беседе с ИИ-ботом и сумел получить огромную скидку на заказ, который обошелся бы продавцу дешевле себестоимости материалов.

Вероятно, он час уговаривал того дать ему небольшие преференции и в итоге у него получилось.

Чат-бот был установлен для помощи посетителям сайта в нерабочие часы – с 18:00 до 9:00 утра. Система успешно функционировала более полугода, отвечая на вопросы клиентов и помогая оформлять заказы. Однако ИИ не был предназначен для принятия финансовых решений или предоставления скидок.

Новая ИИ-модель ByteDance для генерации видео взорвала интернет и напугала киноиндустрию

Новые геймплейные скриншоты GTA 6 оказались ИИ-фейками – но их действительно легко принять за реальные

Клиент применил хитрую тактику: сначала убедил бота продемонстрировать навыки работы с математикой и процентами, затем перевел разговор на тему процентных скидок на гипотетический заказ и выражал восхищение способностями ассистента. В попытке произвести впечатление чат-бот сгенерировал промокод на скидку 25%, которую позже увеличил до 80%.

После оформления заказа на несколько тысяч фунтов владелец бизнеса связался с клиентом для отмены сделки. В ответ покупатель пригрозил подать в суд малых исков, если заказ не будет выполнен на оговоренных условиях, дав три дня на размышление. По словам продавца, выполнение заказа означало бы убытки, превышающие даже стоимость материалов.

Владелец компании в итоге вернул деньги клиенту по совету реддиторов. Почти все сказали, что ему не нужно обслуживать такого хитрого клиента. Случай демонстрирует риски использования ИИ-ассистентов без должных ограничений в коммерческих операциях – особенно когда системе не установлены четкие границы полномочий в финансовых вопросах.