Перейти к основному содержимому

Использование и активность токенов

Используйте Settings → Usage для проверки заявленного объема токенов и локальной активности. Используйте меню ответа Token usage или сеанс Context window для более узкого просмотра. Они отвечают на различные вопросы: общие вызовы могут потреблять много токенов, в то время как текущий контекст занимает гораздо меньшее окно.

Используйте отображаемый период и метрику для интерпретации каждой диаграммы. Сообщенные подсчеты токенов описывают активность; Проверьте лимиты подписки или выставление счетов с поставщиком.

Фильтровать резюме​

  1. Выберите Today, This week, Last 30 days или All time.
  2. Прочитайте этикетку свежести. Используйте Refresh после завершения запуска, если страница устарела.
  3. Сравните четыре поля токенов и счетчики активности New/Total.
  4. Проверяйте собственную метку периода диаграммы, прежде чем сравнивать ее с резюме.

Сегодня краткое изложение с отдельными ежедневными графиками

Полное полеТолкование
Всего токеновагрегированные данные за выбранный период.
Ввод токенов- отчетный входной компонент; Не подменяйте оценку длины текста.
Кэширование токеновИспользование, приписываемое кэшу отчетным бэкэндом.
Доля кэшаДоля соответствующего объема ввода/кэша; dash означает недоступность, а не нулевую цену.
токены выводаСообщаемый сгенерированный выходной компонент.
Новые сессии/проекты/запуски/артефактыПредметы, созданные в выбранный период.
Общие сессии/проекты/пробеги/артефактыОбщие подсчеты; Они не должны равняться новым показателям периода.

В представлении «Сегодня» общее количество токенов было равно нулю до того, как текущий забег зафиксировал его использование, в то время как фиксированный график 30-сутки по-прежнему содержал вчерашнюю активность. Это ожидаемое поведение периода, а не непоследовательный подсчет. Загрузка и генерируемые артефакты – это разные ресурсы. Загрузка исходного файла сама по себе не создает сгенерированный артефакт.

Читайте ежедневную активность и состав​

Daily activity metric предлагает токены Total, токены Input, токены Output, токены Cache, новые сессии, новые проекты, новые артефакты и забеги. Выберите метрику, затем проверьте ячейку даты. Более темные ячейки представляют большие значения в пределах отображаемой шкалы.

Daily token usage показывает сложенные компоненты ввода, кэша и вывода. Обе карты имеют маркировку Последние дни 30. Изменение верхнего сводного периода не меняет этого фиксированного диапазона. Сравните, как периоды, прежде чем делать выводы об увеличении.

Объясните недостающие или неожиданные значения​

симптомПроверить
Завершенный разговор не имеет использованияНекоторые провайдеры и старые записи опускают телеметрию. Обновите один раз, а затем проверьте собственное использование ответа.
Высокий общий, но небольшой процент использования контекстаОбщее использование аккумулирует звонки; контекст измеряет заполняемость в определенный момент времени.
Новые счетчики меняются без использования токеновСоздание проекта и управление сеансом может происходить без запроса модели.
Итоги не похожи на счетЭта страница не является бухгалтерской книгой провайдера или панелью мониторинга с ограничением подписки.
Большой кэш-компонентПрочитайте отчетную разбивку; Не делайте вывод о экономии денежных средств без фактических правил выставления счетов провайдером.

Страница включает только зарегистрированное использование. Он не восстанавливает утраченную историю. Контекстный состав и уплотнение см. в Память и контекст разговора.

Источник: Панель использования и элементы управления диаграммой.

Проверка смежных дней​

Перейдите по графику Daily token usage, чтобы проверить последовательные даты и их вход, кэш и выходной разбивки. Для доступа к клавиатуре используйте Tab/Shift+Tab, чтобы сосредоточиться в день, и Побег, чтобы закрыть детали. Сравнить отображаемую дату и компоненты; Эта диаграмма по-прежнему охватывает последние дни 30 и не восстанавливает недостающие телеметрии провайдера.