Как подключать сторонние модели: API-ключи, OpenAI-совместимые API, лимиты

Middle PRO

Суть

Почти любой ИИ-инструмент можно направить на другую модель: другого провайдера, агрегатор или локальный сервер. Для этого нужны три вещи: базовый URL API, ключ и имя модели. Самый распространённый формат — OpenAI-совместимый Chat Completions API: его понимают Xcode, Cursor, многие агенты и библиотеки, а предоставляют не только OpenAI, но и Google, OpenRouter, Ollama, LM Studio и другие.

Главные инженерные вопросы здесь: где хранить ключ, как переживать лимиты и ошибки и как не перепутать, какая модель на самом деле отвечает.