Использование локальной модели

Локальная модель работает на вашем ПК через Ollama или LM Studio. Она работает офлайн, не требует ключа API и не берёт плату за слова. Скорость и качество зависят от вашего оборудования и модели.

Установите локальный сервер

Установите Ollama или LM Studio и скачайте с их помощью модель.

Запустите сервер

Ollama обычно работает в фоне после установки. В LM Studio загрузите модель и запустите её локальный сервер.

Подключите RuneTranslate

Перейдите в Настройки, Провайдеры, Local Model. В разделе Пресеты выберите Ollama или LM Studio, чтобы заполнить URL сервера.

Выберите модель

Нажмите Обновить, чтобы загрузить установленные модели, затем выберите одну в поле Модель.

Проверьте

Нажмите Проверить, чтобы отправить крошечный запрос вашей модели. Первый может занять некоторое время, потому что модель должна загрузиться. Когда всё работает, сообщение покажет результат, а у сервиса появится Ready.

Настройки Local Model с URL сервера Ollama, выбранной моделью и кнопками Обновить и Проверить.

Используйте

В проекте выберите Local Model (Ollama / LM Studio) в меню вверху редактора.

Пресеты используют такие адреса:

Сервер	URL сервера
Ollama	`http://localhost:11434/v1`
LM Studio	`http://localhost:1234/v1`

Если подключения нет

Не удалось связаться с сервером: Ollama или LM Studio не запущены, или неверен URL.
Модели не найдены: сервер работает, но ни одна модель не установлена или не загружена.