Jan + LLMost: настройка и подключение

Что такое Jan

Jan — бесплатное десктопное приложение с открытым исходным кодом (лицензия Apache 2.0) от Menlo Research для macOS, Windows и Linux. Оно представляет собой локальный чат-интерфейс для работы с языковыми моделями, с возможностью подключения облачных провайдеров.

Техническая основа — llama.cpp (CPU/GPU через CUDA, Vulkan, Metal) и MLX на Apple Silicon, приложение собрано на Tauri (Rust + TypeScript). Модели в формате GGUF загружаются из Hugging Face.

Последняя версия — v0.8.8 (28 октября 2026). На GitHub репозиторий насчитывает более 45.6 тыс. звёзд, приложение скачано свыше 7.3 млн раз.

Что Jan умеет

• Локальный запуск GGUF-моделей через llama.cpp (MLX на Apple Silicon) — полностью офлайн, без аккаунта и банковской карты
• Подключение облачных моделей OpenAI, Anthropic, Google, Groq, Mistral, MiniMax, DeepSeek, Kimi и др. по ключу API в одном интерфейсе
• Встроенный OpenAI-совместимый API-сервер на http://127.0.0.1:1337/v1 (плюс Anthropic-совместимый /v1/messages) — позволяет подключать сторонние клиенты к Jan
• Model Hub с подбором моделей под железо (оценка Fits / May be slow / Won't fit без скачивания)
• MCP-серверы и расширения, проекты и автономные агенты (Cowork), кастомные ассистенты с инструкциями
• Multi-Token Prediction (MTP) для ускорения генерации (v0.8.0+)

Требования

• Аккаунт LLMost с положительным балансом — установка не нужна, всё настраивается в приложении
• Приложение Jan, установленное с jan.ai

Подключение LLMost

Jan поддерживает подключение произвольных OpenAI-совместимых провайдеров, поэтому LLMost добавляется как кастомный провайдер.

1. Создайте ключ на странице Ключи API (формат llmost_...).
2. Откройте Jan и перейдите в Настройки.
3. В разделе Поставщики моделей нажмите на плюсик +.

4. В открывшемся диалоге «Добавить поставщика OpenAI» заполните поля:
   • Название: LLMost
   • API format: OpenAI-compatible
   • Base URL: https://llmost.ru/api/v1
   • API key: ваш ключ llmost_...
5. Нажмите Создать.

6. Появится карточка поставщика LLMost. Нажмите иконку «Обновить» (круговая стрелка) рядом с заголовком Модели, чтобы Jan загрузил список моделей из каталога LLMost.

7. В настройках чата выберите провайдер LLMost и модель в формате vendor/model из каталога моделей LLMost.

Выбор модели

Модель указывается в формате vendor/model — скопируйте слаг из каталога моделей LLMost. Хорошие стартовые варианты:

• ~anthropic/claude-sonnet-latest — максимальное качество отыгрыша и длинных историй;
• ~google/gemini-flash-latest — быстрая и дешёвая, подходит для очень длинных чатов;
• ~deepseek/deepseek-v3.2-20251201 — недорогая и «живая», оптимальный старт.

Алиасы, начинающиеся с ~, всегда указывают на актуальную версию модели — такой конфиг не устареет.

Проверка

Начните новый чат в Jan, выберите провайдер LLMost и отправьте любое сообщение. Если пришёл ответ — подключение настроено правильно.

Чтобы проверить подключение в обход Jan, выполните запрос напрямую:

curl https://llmost.ru/api/v1/chat/completions \
  -H "Authorization: Bearer llmost_..." \
  -H "Content-Type: application/json" \
  -d '{
    "model": "~google/gemini-flash-latest",
    "messages": [{"role": "user", "content": "Привет!"}]
  }'

Локальные модели (GGUF)

Если вы хотите запускать модели локально на своём железе:

1. В Jan перейдите в Model Hub.
2. Подберите модель под ваш объём ОЗУ (рекомендуется минимум 8 ГБ, желательно 16 ГБ).
3. Скачайте модель в формате GGUF из Hugging Face.
4. Запустите чат с локальной моделью — инференс проходит офлайн на вашем процессоре или видеокарте.

Обратите внимание: локальные модели на Intel Mac не поддерживаются начиная с v0.8.0 (только Apple Silicon). Облачные провайдеры (включая LLMost) работают на всех платформах.

Частые проблемы

Ответ не приходит / ошибка сети. Проверьте, что Base URL указан точно как https://llmost.ru/api/v1 и что API-ключ скопирован полностью.

Ошибка 401. Ключ скопирован не полностью или удалён. Создайте новый на странице Ключи API.

Ошибка 402 «Недостаточно средств». Пополните баланс LLMost в личном кабинете.

Модель не найдена. Убедитесь, что модель существует в каталоге LLMost и написана в формате vendor/model (например, ~anthropic/claude-sonnet-latest).

Ссылки

• Официальный сайт: jan.ai
• Репозиторий: github.com/janhq/jan
• Документация: docs.jan.ai
• Каталог моделей LLMost: llmost.ru/models
• Другие приложения — в каталоге ИИ-агентов