Термин
Cost control
Контроль стоимости работы LLM-приложения по запросам, сценариям, моделям и клиентам.
Cost control отслеживает token usage, model calls, retries, длинные контексты, дорогие модели, бюджетные лимиты и cost per successful task. Он нужен, чтобы AI-функция не стала неожиданно дорогой.