Підключення локальних моделей ШІ (Ollama, LM Studio)
XMCL дозволяє підключати локальні нейромережі, які запускаються безпосередньо на вашому власному комп'ютері (на відеокарті або процесорі). Це забезпечує:
- Повну конфіденційність: жоден байт ваших запитів або логів гри не передається в інтернет.
- 100% безкоштовність: жодних підписок, платних токенів чи лімітів запитів.
- Автономність: асистент працює навіть за повної відсутності інтернет-з'єднання.
Варіант 1: Ollama (Найпростіший спосіб)
Ollama — це найпопулярніший та найлегший інструмент для локального запуску відкритих моделей на Windows, macOS та Linux.
Крок 1. Встановіть Ollama та завантажте модель
- Завантажте інсталятор із офіційного сайту ollama.com.
- Відкрийте командний рядок (термінал) і завантажте бажану модель:bash
# Легка та швидка модель для звичайних ПК (потребує ~4 ГБ ОЗП): ollama run llama3.2 # Або відмінна модель для інструкцій та коду (потребує ~8 ГБ ОЗП/VRAM): ollama run qwen2.5:7b - Перевірте, що сервіс Ollama працює у фоновому режимі (у системному треї має бути іконка лами).
Крок 2. Налаштуйте XMCL
- Відкрийте XMCL -> Налаштування (Settings) -> Загальні (General).
- Увімкніть Режим розробника (Developer Mode).
- Прокрутіть до секції AI Agent та заповніть три поля:
- Endpoint:
http://localhost:11434/v1/chat/completions - Model:
llama3.2(абоqwen2.5:7b, відповідно до назви моделі, яку ви завантажили в Ollama). - API Key: вкажіть будь-яке слово, наприклад
ollama(локальний сервер не вимагає авторизації, але лаунчер очікує непорожнє значення).
- Endpoint:
Варіант 2: LM Studio
LM Studio — це потужна графічна програма для пошуку, завантаження та запуску будь-яких моделей формату GGUF (Llama, Mistral, Gemma, Phi тощо).
Крок 1. Запустіть сервер у LM Studio
- Завантажте програму з офіційного сайту lmstudio.ai.
- Знайдіть у пошуку та завантажте бажану модель (наприклад,
Qwen2.5-7B-InstructабоLlama-3.2-3B-Instruct). - Перейдіть на лівій панелі на вкладку Developer / Local Server (іконка з подвійними стрілками або написом
<->). - Виберіть завантажену модель у верхньому випадаючому списку.
- Натисніть кнопку Start Server (за замовчуванням сервер запускається на
http://localhost:1234).
Крок 2. Налаштуйте XMCL
- Перейдіть у Налаштування -> Загальні -> AI Agent.
- Вкажіть наступні параметри:
- Endpoint:
http://localhost:1234/v1/chat/completions - Model: скопіюйте ідентифікатор моделі з LM Studio (або залиште значення за замовчуванням).
- API Key: введіть
lm-studio(або будь-який довільний текст).
- Endpoint:
Рекомендації щодо вибору моделі та заліза
Швидкість роботи локального асистента залежить від обсягу відеопам'яті (VRAM) вашої відеокарти або оперативної пам'яті (RAM):
| Розмір моделі | Рекомендоване залізо | Найкращі моделі для Minecraft |
|---|---|---|
| 1B – 3B параметрів | Будь-який сучасний ноутбук, 6–8 ГБ ОЗП | llama3.2:1b, llama3.2:3b, qwen2.5:3b |
| 7B – 8B параметрів | Відеокарта з 6–8 ГБ VRAM (RTX 3060/4060) або 16 ГБ ОЗП | qwen2.5:7b, llama3.1:8b, mistral:7b |
| 14B+ параметрів | Потужна відеокарта з 12–16+ ГБ VRAM | qwen2.5:14b, deepseek-coder-v2 |
Порада для діагностики краш-логів
Моделі сімейства qwen2.5 (особливо qwen2.5:7b) демонструють найвищу точність під час аналізу стектрейсів Java та пошуку несумісних модів Minecraft серед усіх компактних локальних моделей.
Поширені проблеми з локальними моделями
Connection Refused (ECONNREFUSED): локальний сервер не запущений. Переконайтеся, що Ollama або сервер у LM Studio активні в системі перед надсиланням запиту.- Модель відповідає надто повільно: модель занадто велика для вашої відеопам'яті і частина шарів обчислюється на повільному процесорі. Спробуйте меншу квантовану модель (наприклад, версії
q4_k_mабо моделі розміром 3B). - Помилка
Model not found: перевірте точність написання назви моделі в налаштуваннях XMCL (наприклад,llama3.2замістьllama-3.2).