Термин
Токены
Фрагменты текста, с которыми работает языковая модель: слова, части слов, знаки, числа и куски кода.
Токены - единицы текста после токенизации. Языковая модель получает текст в виде токенов, учитывает их связи и генерирует ответ токен за токеном. Лимиты контекста, длина ответа и стоимость API часто считаются именно в токенах.