Сбой в Anthropic выставил разработчику счёт на 16,6 миллиона долларов за Claude API

ИИ-чат-боты давно известны склонностью к галлюцинациям, но что если ошибаться начинают сами компании вроде Anthropic, стоящие за крупными языковыми моделями.

Один корейский разработчик столкнулся с ситуацией, которая может пополнить список подобных промахов, получив счёт на невероятные 16,6 миллиона долларов за использование Claude API.

Самое пугающее в этой истории заключается в том, что речь не о хитроумной фишинговой атаке или сложной схеме мошенничества. Источником списания стал верифицированный биллинговый домен Anthropic.

Ещё более странным выглядит то, что панель управления разработчика показывала нулевую сумму задолженности. При этом со счёта пытались списать миллионы долларов.

История платежей демонстрирует, что Anthropic предприняла две попытки списания. Первая составила 1,6 миллиона долларов, а вторая оказалась в десять раз больше.

Если бы подобный инцидент произошёл с бизнес-аккаунтом компании с существенно большим кредитным лимитом, немедленный звонок в банк и подача заявления помогли бы аннулировать транзакцию. Однако это вряд ли снизило бы уровень стресса человека, увидевшего такие уведомления на почте.

При дальнейшем разбирательстве выяснилось, что ИИ-фирма действительно сделала две попытки – сначала на 1,6 миллиона долларов, а затем на сумму в десять раз больше. Банк разработчика подтвердил, что Anthropic отправила настоящий автоматический запрос.

Сообщество попыталось собрать воедино возможные причины сбоя. При разработке через API те, кто настраивает ИИ-агентов, нередко попадают в бесконечный цикл, что приводит к огромным нагрузкам на серверы и большим расходам.

Claude и ChatGPT стали слишком дорогими даже для Microsoft

Anthropic позволила управлять ИИ-агентом Claude Cowork со смартфона

Вместе с тем счёт на 16,6 миллиона долларов за один платёжный цикл потребовал бы одновременной обработки тысяч токенов. Реалистично для одного разработчика такое невозможно.

Подобный инцидент, судя по всему, не единичный. Другие пользователи сообщают о странных схемах биллинга Anthropic, при которых с них многократно в день списывали небольшие суммы по 20 долларов.