LibreChat: подключение кастомного OpenAI-совместимого API

Что такое LibreChat

LibreChat — открытая self-hosted платформа «свой ChatGPT» для команды или личного сервера: знакомый интерфейс, агенты с инструментами, поиск по диалогам, ветвление сообщений, мультипользовательский режим. Облачной версии нет — LibreChat разворачивается только на своём сервере. Кастомные OpenAI-совместимые провайдеры — штатная функция: LLMost подключается одним блоком в конфиге, и весь каталог моделей появляется в селекторе.

Требования

Docker с Docker Compose
~2 ГБ свободного места
Аккаунт LLMost с API-ключом

Установка

Клонируйте репозиторий и запустите контейнеры:

git clone https://github.com/danny-avila/LibreChat.git
cd LibreChat
cp .env.example .env
docker compose up -d

Откройте http://localhost:3080 и зарегистрируйте первого пользователя. Другие способы установки (npm, Kubernetes) — в официальной документации.

Подключение LLMost

Создайте ключ на странице Ключи API (формат llmost_...) и добавьте его в файл .env:
```
LLMOST_API_KEY=llmost_...
```

В корне проекта создайте файл librechat.yaml:

version: 1.3.13

endpoints:
  custom:
    - name: "LLMost"
      apiKey: "${LLMOST_API_KEY}"
      baseURL: "https://llmost.ru/api/v1"
      models:
        default: ["~openai/gpt-latest"]
        fetch: true
      titleConvo: true
      titleModel: "current_model"
      modelDisplayLabel: "LLMost"

fetch: true автоматически подтягивает весь каталог LLMost из /api/v1/models — вручную модели перечислять не нужно.

Чтобы Docker-контейнер увидел конфиг, создайте рядом файл docker-compose.override.yml:
```
services:
  api:
    volumes:
      - ./librechat.yaml:/app/librechat.yaml
```
Перезапустите контейнеры:
```
docker compose up -d --force-recreate
```
Обновите страницу LibreChat: в селекторе провайдеров появился эндпоинт LLMost со всеми моделями каталога.

Если хотите, чтобы каждый пользователь вводил свой ключ LLMost прямо в интерфейсе (а не общий из .env), замените строку apiKey на apiKey: "user_provided" — LibreChat покажет пользователю диалог «Set API Key» при первом обращении к эндпоинту.

Выбор модели

Для повседневной работы достаточно двух-трёх моделей:

~openai/gpt-latest — универсальная флагманская модель, «как ChatGPT»;
~google/gemini-flash-latest — быстрая и дешёвая для повседневных вопросов;
~anthropic/claude-sonnet-latest — сложные задачи, код и длинные документы.

Алиасы, начинающиеся с ~, всегда указывают на актуальную версию модели. Полный список с ценами — в каталоге моделей LLMost.

Проверка

Создайте новый чат, выберите эндпоинт LLMost и модель, отправьте сообщение. Если пришёл ответ — соединение работает.

Чтобы проверить подключение в обход LibreChat, выполните запрос напрямую:

curl https://llmost.ru/api/v1/chat/completions \
  -H "Authorization: Bearer llmost_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "~google/gemini-flash-latest",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'

Частые проблемы

Эндпоинт LLMost не появился в селекторе. Конфиг не подхватился: проверьте, что librechat.yaml смонтирован в контейнер (шаг 3) и в нём нет ошибок синтаксиса. Смотрите логи: docker compose logs api | grep -i custom.

Названия чатов не генерируются или падают с ошибкой. Убедитесь, что в конфиге указан titleModel: "current_model". Без этой строки LibreChat пытается использовать gpt-3.5-turbo — модель с таким ID в каталоге LLMost недоступна.

Ошибка 401 при запросе. Ключ скопирован не полностью, удалён или не попал в .env (после правки .env контейнеры нужно пересоздать — шаг 4). Создайте новый ключ на странице Ключи API.

Модели видны, но ответа нет (402). Закончился баланс LLMost — пополните его в личном кабинете.

Список моделей пуст. fetch: true загружает список с вашим ключом — при невалидном ключе LibreChat откатывается на models.default. Проверьте ключ и перезапустите контейнеры.

Ссылки

Официальный сайт: librechat.ai
Документация по кастомным эндпоинтам: librechat.ai/docs
GitHub: danny-avila/LibreChat
Другие приложения — в каталоге ИИ-агентов

LibreChat + LLMost: установка и настройка