Сколько стоит один вызов модели: 204 реальных вызова из прода

Прайс-листы честные и почти бесполезные. Anthropic скажет, что Sonnet стоит $3 за миллион входных токенов и $15 за миллион выходных. Это правда, и это ничего не говорит о цене функции, потому что прайс-лист не знает, сколько токенов она тратит и на какую сторону они лягут.

Поэтому мы прочитали собственный лог. Каждый вызов модели пишется в таблицу в момент, когда он произошёл: название задачи, выбранная роутером модель, число входных и выходных токенов и стоимость, посчитанная тут же. Вот как выглядят 204 настоящих вызова за 90 дней.

Стоимость вызова llm это не одно число

Итог скучный: $1,21 за 204 вызова с 25 июня по 23 сентября 2026 года. Поделить одно на другое — выйдет около половины цента за вызов, и это ровно тот средний показатель, который прячет всё интересное.

Те же данные, разложенные по тому, что вызов на самом деле делал. Столбик — доля стоимости, ушедшая на выход, то есть на текст, который модель написала, а не на тот, что мы ей отправили.

Почему форма переворачивается

Это очевидно, когда видишь числа токенов, и незаметно, пока не увидел. Написать пост — значит отправить короткое задание и получить длинный текст: 432 токена туда, 581 обратно. Дорогую работу делает модель, а выход стоит в пять раз дороже входа.

Ответить — наоборот. Чтобы написать одно уместное предложение под чужим постом, надо отправить сам пост, ветку обсуждения, описание голоса и правила о том, чего говорить нельзя. Получилось 963 токена на входе против 27 на выходе, примерно 35 к 1. Вы платите за чтение, а не за письмо.

Что это меняет в экономии на стоимости вызова llm

Стандартный совет — батчить: класть несколько заданий в один вызов и экономить на повторяющемся промпте. Наш прошлый замер по постам говорит, что склейка шести вариантов стиля в один вызов экономит только вход, а это 13% операции. Шесть постов будут написаны в любом случае. Батчинг уменьшил число вызовов и почти не тронул счёт.

На ответах тот же совет верен по обратной причине. Там промпт и есть счёт. Обрезать ветку, выкинуть из описания голоса то, что не нужно для однострочного ответа, переиспользовать закешированный префикс — всё это бьёт прямо в те самые 88%.

Честные границы этих чисел

Это лог одного продукта, а не бенчмарк. 204 вызова достаточно, чтобы увидеть форму, и мало, чтобы спорить о третьем знаке. За ответами стоят 58 вызовов, за клоном стиля — девять. Роутер выбирает модель под задачу, поэтому цена задачи связана с этим выбором, а не является свойством самой работы.

И находка на полях, в виде предупреждения: в той же таблице лежали 99 999 строк от нагрузочного теста квот, сделанного за один июньский день. Это 96% всех записанных расходов. Любая панель, читающая таблицу без фильтра, показала бы сумму в сорок раз больше настоящей. Если пишете каждый вызов — помечайте тестовые строки.

Метод не стоит ничего и не требует вендора. Таблица из пяти колонок, заполняемая в момент вызова, отвечает на вопросы, на которые прайс-лист ответить не может. Как устроена письменная сторона этой работы — в статье про ответы как канал роста.