Термин
Input tokens
Токены, которые модель получает на вход: инструкции, промпт, история, документы и контекст.
Input tokens включают все данные, которые передаются модели до генерации ответа: системные инструкции, пользовательский запрос, историю диалога, RAG-фрагменты, схемы инструментов и результаты прошлых вызовов.