Термин

Model routing

Выбор модели под конкретный тип задачи, сложность, стоимость или риск сценария.

Model routing позволяет использовать разные модели в одной AI-системе: быструю для классификации, сильную для сложных задач, локальную для приватных данных. Это снижает стоимость и latency, но требует правил маршрутизации и evals.