Собственные LLM-провайдеры

HedyOS поддерживает любой LLM с OpenAI-совместимым API: Ollama, LM Studio, vLLM, Together AI, Groq и другие.

Настройка

1. Перейдите в Настройки → AI-ассистент → Провайдеры
2. Нажмите Добавить провайдер
3. Введите:
   • Название — как вы хотите называть провайдер
   • Base URL — адрес API (например, http://localhost:11434/v1 для Ollama)
   • API Key — ключ (для локальных серверов можно оставить ollama или любой непустой текст)
   • Модель — идентификатор модели (например, llama3.2)

Примеры

Ollama (локально)

Base URL: http://localhost:11434/v1
API Key: ollama
Модель: llama3.2

LM Studio

Base URL: http://localhost:1234/v1
API Key: lm-studio
Модель: (автоматически из LM Studio)

Groq

Base URL: https://api.groq.com/openai/v1
API Key: ваш_groq_api_key
Модель: llama-3.1-70b-versatile