Intel-IPEX-LLM-Ollama
Docker 应用程序 from progressive-small6053's Repository
概述
IPEX-LLM is an LLM acceleration library for Intel GPU (e.g., local PC with iGPU, discrete GPU such as Arc, Flex and Max), NPU and CPU
This Image is meant to be a one way stop for AI enthusiasts with an Intel iGPU or dGPU to run models using Ollama.
Make sure to have reBar enabled
要求
Unraid 7+
运行时参数
- 网络
bridge- 外壳
bash- 特权
- false
模板配置
ModelsPathrw
- 目标
- /root/.ollama
- 价值
- /mnt/user/Models/ollama
GPUDevice
- 目标
- /dev/dri
- 价值
- /dev/dri
OLLAMA_HOSTVariable
Allow connections from the Value
- 目标
- OLLAMA_HOST:
- 默认值
- 0.0.0.0
- 价值
- 0.0.0.0
ONEAPI_DEVICE_SELECTORVariable
- 价值
- level_zero:0
IPEX_LLM_NUM_CTXVariable
- 价值
- 16384
Ollama portPorttcp
- 目标
- 11434
- 价值
- 11434
OLLAMA_INTEL_GPUVariable
- 价值
- 1
OLLAMA_NUM_GPUVariable
- 价值
- 999
ZES_ENABLE_SYSMANVariable
- 价值
- 1
OLLAMA_DEBUGVariable
Enable Ollama debug logs
- 价值
- 1
类别
详细信息
存储库
ghcr.io/justjoseorg/ollama-intel-gpu:main最后更新2026-05-31
初见2025-04-20
在Unraid 上运行 Intel-IPEX-LLM-Ollama 。
Intel-IPEX-LLM-Ollama 已被列入Unraid OS 的社区应用程序。探索Unraid ,构建灵活的家庭服务器、NAS 或家庭实验室。