Использование и активность токенов
Используйте Settings → Usage для проверки заявленного объема токенов и локальной активности. Используйте меню ответа Token usage или сеанс Context window для более узкого просмотра. Они отвечают на различные вопросы: общие вызовы могут потреблять много токенов, в то время как текущий контекст занимает гораздо меньшее окно.
Используйте отображаемый период и метрику для интерпретации каждой диаграммы. Сообщенные подсчеты токенов описывают активность; Проверьте лимиты подписки или выставление счетов с поставщиком.
Фильтровать резюме
- Выберите Today, This week, Last 30 days или All time.
- Прочитайте этикетку свежести. Используйте Refresh после завершения запуска, если страница устарела.
- Сравните четыре поля токенов и счетчики активности New/Total.
- Проверяйте собственную метку периода диаграммы, прежде чем сравнивать ее с резюме.
| Полное поле | Толкование |
|---|---|
| Всего токенов | агрегированные данные за выбранный период. |
| Ввод токенов | - отчетный входной компонент; Не подменяйте оценку длины текста. |
| Кэширование токенов | Использование, приписываемое кэшу отчетным бэкэндом. |
| Доля кэша | Доля соответствующего объема ввода/кэша; dash означает недоступность, а не нулевую цену. |
| токены вывода | Сообщаемый сгенерированный выходной компонент. |
| Новые сессии/проекты/запуски/артефакты | Предметы, созданные в выбранный период. |
| Общие сессии/проекты/пробеги/артефакты | Общие подсчеты; Они не должны равняться новым показателям периода. |
В представлении «Сегодня» общее количество токенов было равно нулю до того, как текущий забег зафиксировал его использование, в то время как фиксированный график 30-сутки по-прежнему содержал вчерашнюю активность. Это ожидаемое поведение периода, а не непоследовательный подсчет. Загрузка и генерируемые артефакты – это разные ресурсы. Загрузка исходного файла сама по себе не создает сгенерированный артефакт.
Читайте ежедневную активность и состав
Daily activity metric предлагает токены Total, токены Input, токены Output, токены Cache, новые сессии, новые проекты, новые артефакты и забеги. Выберите метрику, затем проверьте ячейку даты. Более темные ячейки представляют большие значения в пределах отображаемой шкалы.
Daily token usage показывает сложенные компоненты ввода, кэша и вывода. Обе карты имеют маркировку Последние дни 30. Изменение верхнего сводного периода не меняет этого фиксированного диапазона. Сравните, как периоды, прежде чем делать выводы об увеличении.
Объясните недостающие или неожиданные значения
| симптом | Проверить |
|---|---|
| Завершенный разговор не имеет использования | Некоторые провайдеры и старые записи опускают телеметрию. Обновите один раз, а затем проверьте собственное использование ответа. |
| Высокий общий, но небольшой процент использования контекста | Общее использование аккумулирует звонки; контекст измеряет заполняемость в определенный момент времени. |
| Новые счетчики меняются без использования токенов | Создание проекта и управление сеансом может происходить без запроса модели. |
| Итоги не похожи на счет | Эта страница не является бухгалтерской книгой провайдера или панелью мониторинга с ограничением подписки. |
| Большой кэш-компонент | Прочитайте отчетную разбивку; Не делайте вывод о экономии денежных средств без фактических правил выставления счетов провайдером. |
Страница включает только зарегистрированное использование. Он не восстанавливает утраченную историю. Контекстный состав и уплотнение см. в Память и контекст разговора.
Источник: Панель использования и элементы управления диаграммой.