Баланс и токены

Бесплатные токены

Бесплатный пакет токенов для тестирования API, обновляются каждый день в 00:00.
Сначала расходуются стартовые токены.
Когда они заканчиваются, запросы начинают оплачиваться с рублёвого баланса.

Рублёвый баланс

Основной баланс для запросов.

Как считается расход

Расход зависит от количества токенов в запросе и ответе:

— входные токены — данные, которые отправляются в модель;
— выходные токены — ответ, который возвращает модель.

Повторяющаяся часть запроса (системный промпт, история диалога, документы) может обслуживаться из кэша модели. Если у модели настроен тариф «входящее из кэша» (он показан отдельной строкой в карточке модели), фактически закэшированные входные токены считаются по нему; у моделей без такого тарифа весь вход оплачивается по обычной входной ставке. Кэширование работает автоматически, менять запросы не нужно; сколько входных токенов пришло из кэша, видно в ответе API в поле usage.prompt_tokens_details.cached_tokens.

С 22:00 до 08:00 по московскому времени токены моделей на нашем железе на 30 % дешевле: все три ставки — входящее, входящее из кэша и исходящее — умножаются на 0,7. У таких моделей в карточке есть строка «Ночью с 22:00 до 08:00 мск». Скидка определяется по моменту завершения запроса: запрос, начатый в 21:50 и завершённый в 22:05, считается по ночной ставке, и наоборот. Стартовые токены списываются поштучно и от времени суток не зависят.

Что происходит при нулевом балансе

Если стартовые токены закончились и на рублёвом балансе недостаточно средств, новые запросы не выполняются.

Сообщение в вашем редакторе будет похоже на это:

Чат в личном кабинете

Среда разработки

Где посмотреть баланс

Текущий баланс и информация по использованию отображаются в разделе «Баланс».
Там можно отслеживать остаток стартовых токенов, состояние рублёвого баланса и общий расход по аккаунту.