ollama-intel-gpu
ollama-intel-gpu
Aplicación Docker from SpaceInvaderOne's Repository
Visión general
Requisitos
Argumentos en tiempo de ejecución
- Interfaz web
http://[IP]:[PORT:11434]/- Red
bridge- Concha
bash- Privilegiado
- false
- Parámetros adicionales
--device=/dev/dri
Configuración de plantillas
Path on the host for persistent model storage. Models are large (4-20 GB each).
- Objetivo
- /root/.ollama
- Por defecto
- /mnt/user/appdata/ollama-intel-gpu
- Valor
- /mnt/user/appdata/ollama-intel-gpu
Port for the Ollama API.
- Objetivo
- 11434
- Por defecto
- 11434
- Valor
- 11434
Allowed origins for CORS. Set to * to allow Open WebUI and other frontends to connect.
- Por defecto
- *
- Valor
- *
Select which Intel GPU to use. Use level_zero:0 for the first GPU. Change only if you have multiple Intel GPUs.
- Por defecto
- level_zero:0
- Valor
- level_zero:0
Number of parallel inference requests. Set to 1 for 12 GB VRAM cards (B580). Increase only if you have more VRAM.
- Por defecto
- 1
- Valor
- 1
Context window size in tokens. Larger values use more VRAM. Default 4096 is a good balance for 12 GB cards.
- Por defecto
- 4096
- Valor
- 4096
How long to keep a model loaded in VRAM after the last request. Use 5m for 5 minutes, -1 for forever, 0 to unload immediately.
- Por defecto
- 5m
- Valor
- 5m
Categorías
Descargar estadísticas
Detalles
spaceinvaderone/ollama-intel-gpuEjecute ollama-intel-gpu en Unraid.
ollama-intel-gpu se encuentra en Community Apps para Unraid OS. Explore Unraid para crear un servidor doméstico flexible, un NAS o un laboratorio doméstico.