Anthropic ошибочно выставила пользователю Claude счет на $16,6 млн

ИИ-стартап Anthropic выставил пользователю Claude на бесплатном тарифе счет на $16,6 млн. Разработчик из Южной Кореи под псевдонимом remy_notes рассказал об этом в соцсети Threads.

Он получил первый инвойс на сумму $1,6 млн 7 июля. Сначала программист принял его за фишинг, но менее чем через сутки пришло второе письмо с требованием оплаты — уже на $16,6 млн.

Отправитель и платежная ссылка вели на официальный домен Anthropic и ее платежную систему Stripe. Панель remy_notes при этом показывала нулевое использование API. Тарифицируемых ключей на аккаунте тоже не нашлось.

В тот же день, 8 июля, банковская карта разработчика дважды отклонила попытки списания. Обе операции превышали лимит на одну транзакцию. Переводы шли от американского продавца с названием ANTHROP.

Пользователь проверил все запущенные на его Mac mini процессы, включая восемь ИИ-агентов, но не обнаружил ничего, что могло бы объяснить инцидент. В качестве превентивной меры он отменил подписку Claude Max и заблокировал привязанную карту.

На выяснение обстоятельств ушло четыре дня и около 18 писем в поддержку, написал разработчик. Часть ответов приходила автоматически — от ИИ-агента Anthropic по имени Fin.

Обращение позже передали в отдел приватности компании. При этом система продолжала слать повторные запросы на списание той же суммы. Банк в итоге заблокировал карту разработчика.

Ответ Anthropic

12 июля Anthropic в письме remy_notes подтвердила ошибку и заявила, что не списала ни доллара. Причиной компания назвала неправильно настроенную функцию автопополнения баланса и отключила ее как меру предосторожности.

Anthropic связала это с блокировкой карты: скорее всего, банк отреагировал именно на неудавшиеся попытки списания. Команда проекта также подчеркнула, что доступ к аккаунту программиста никто не взламывал. При этом объяснить, почему система сгенерировала именно $16,6 млн, поддержка не смогла.

Не единичный случай

В конце июня The Information сообщила со ссылкой на Vaudit о переплатах со стороны корпоративных клиентов Anthropic и OpenAI. Аудиторская компания с марта по июнь проверила счета на общую сумму $34 млн в 60 организациях.

Бо́льшая часть инвойсов относилась к использованию Claude Code от Anthropic. Специалисты выявили избыточные начисления на сумму около $1,7 млн — примерно 5% от проверенного объема.

В Vaudit выделили несколько системных ошибок. Клиентам иногда выставляли счета по тарифам новых моделей, хотя фактически применялась более дешевая старая версия. Фиксировались случаи списаний за запросы, которые завершались ошибкой или не приносили результата.

Отдельную категорию составили «штормы повторов» — ситуация, когда ИИ-агент в фоновом режиме многократно повторяет неудачную задачу, и каждая попытка отражается в счете.

После обращений Vaudit и клиентов компании средства начали возвращать. Около 80% переплат компенсировали Amazon, Google, Microsoft, Anthropic и OpenAI.

Напомним, весной Anthropic уже сталкивалась с недовольством пользователей из-за лимитов Claude Code — тогда компания удвоила их после сделки с SpaceX.