Каждый токен — ровно один раз.
Повторы убираются по идентификатору ответа, куски потокового ответа не складываются, а стоимость хранится в целых микродолларах.
Записи лога приходят одна за другой. Записи с уже учтённым идентификатором ответа зачёркиваются и пропускаются. Итоги по видам токенов и сумма обновляются по мере учёта.
Сегодня
- Ввод
- 123 364
- Чтение кэша
- 5 535 799
- Запись в кэш, 5 мин
- 192 444
- Запись в кэш, 1 час
- 77 392
- Вывод
- 117 579
- из них рассуждения
- 23 872
Потрачено
$4.31неполная
Частично без цены, в стоимость не входит
Цены из LiteLLM и models.dev















































