Skip to content
Останнє оновлення
3 лист. 2026 р., 03:46

Підключення локальних моделей ШІ (Ollama, LM Studio) ​

XMCL дозволяє підключати локальні нейромережі, які запускаються безпосередньо на вашому власному комп'ютері (на відеокарті або процесорі). Це забезпечує:

  • Повну конфіденційність: жоден байт ваших запитів або логів гри не передається в інтернет.
  • 100% безкоштовність: жодних підписок, платних токенів чи лімітів запитів.
  • Автономність: асистент працює навіть за повної відсутності інтернет-з'єднання.

Варіант 1: Ollama (Найпростіший спосіб)

Ollama — це найпопулярніший та найлегший інструмент для локального запуску відкритих моделей на Windows, macOS та Linux.

Крок 1. Встановіть Ollama та завантажте модель ​

  1. Завантажте інсталятор із офіційного сайту ollama.com.
  2. Відкрийте командний рядок (термінал) і завантажте бажану модель:
    bash
    # Легка та швидка модель для звичайних ПК (потребує ~4 ГБ ОЗП):
    ollama run llama3.2
    
    # Або відмінна модель для інструкцій та коду (потребує ~8 ГБ ОЗП/VRAM):
    ollama run qwen2.5:7b
  3. Перевірте, що сервіс Ollama працює у фоновому режимі (у системному треї має бути іконка лами).

Крок 2. Налаштуйте XMCL ​

  1. Відкрийте XMCL -> Налаштування (Settings) -> Загальні (General).
  2. Увімкніть Режим розробника (Developer Mode).
  3. Прокрутіть до секції AI Agent та заповніть три поля:
    • Endpoint: http://localhost:11434/v1/chat/completions
    • Model: llama3.2 (або qwen2.5:7b, відповідно до назви моделі, яку ви завантажили в Ollama).
    • API Key: вкажіть будь-яке слово, наприклад ollama (локальний сервер не вимагає авторизації, але лаунчер очікує непорожнє значення).

Варіант 2: LM Studio

LM Studio — це потужна графічна програма для пошуку, завантаження та запуску будь-яких моделей формату GGUF (Llama, Mistral, Gemma, Phi тощо).

Крок 1. Запустіть сервер у LM Studio ​

  1. Завантажте програму з офіційного сайту lmstudio.ai.
  2. Знайдіть у пошуку та завантажте бажану модель (наприклад, Qwen2.5-7B-Instruct або Llama-3.2-3B-Instruct).
  3. Перейдіть на лівій панелі на вкладку Developer / Local Server (іконка з подвійними стрілками або написом <->).
  4. Виберіть завантажену модель у верхньому випадаючому списку.
  5. Натисніть кнопку Start Server (за замовчуванням сервер запускається на http://localhost:1234).

Крок 2. Налаштуйте XMCL ​

  1. Перейдіть у Налаштування -> Загальні -> AI Agent.
  2. Вкажіть наступні параметри:
    • Endpoint: http://localhost:1234/v1/chat/completions
    • Model: скопіюйте ідентифікатор моделі з LM Studio (або залиште значення за замовчуванням).
    • API Key: введіть lm-studio (або будь-який довільний текст).

Рекомендації щодо вибору моделі та заліза

Швидкість роботи локального асистента залежить від обсягу відеопам'яті (VRAM) вашої відеокарти або оперативної пам'яті (RAM):

Розмір моделіРекомендоване залізоНайкращі моделі для Minecraft
1B – 3B параметрівБудь-який сучасний ноутбук, 6–8 ГБ ОЗПllama3.2:1b, llama3.2:3b, qwen2.5:3b
7B – 8B параметрівВідеокарта з 6–8 ГБ VRAM (RTX 3060/4060) або 16 ГБ ОЗПqwen2.5:7b, llama3.1:8b, mistral:7b
14B+ параметрівПотужна відеокарта з 12–16+ ГБ VRAMqwen2.5:14b, deepseek-coder-v2

Порада для діагностики краш-логів

Моделі сімейства qwen2.5 (особливо qwen2.5:7b) демонструють найвищу точність під час аналізу стектрейсів Java та пошуку несумісних модів Minecraft серед усіх компактних локальних моделей.


Поширені проблеми з локальними моделями

  • Connection Refused (ECONNREFUSED): локальний сервер не запущений. Переконайтеся, що Ollama або сервер у LM Studio активні в системі перед надсиланням запиту.
  • Модель відповідає надто повільно: модель занадто велика для вашої відеопам'яті і частина шарів обчислюється на повільному процесорі. Спробуйте меншу квантовану модель (наприклад, версії q4_k_m або моделі розміром 3B).
  • Помилка Model not found: перевірте точність написання назви моделі в налаштуваннях XMCL (наприклад, llama3.2 замість llama-3.2).