Локальный OpenAI-compatible API Open-source / self-hosted

LocalAI

Self-hosted AI-стек с OpenAI-compatible API для запуска моделей локально.

Открыть сайт
LocalAI помогает заменить облачный API локальным или self-hosted API. Подходит для внутренних приложений, локальных моделей и экспериментов с агентами в собственной инфраструктуре.

Лучше всего подходит

Типовые задачи

OpenAI-compatible API self-hosted локальные модели backend