Intel-IPEX-LLM-Ollama

Intel-IPEX-LLM-Ollama

Docker 应用程序 from progressive-small6053's Repository

概述

IPEX-LLM is an LLM acceleration library for Intel GPU (e.g., local PC with iGPU, discrete GPU such as Arc, Flex and Max), NPU and CPU This Image is meant to be a one way stop for AI enthusiasts with an Intel iGPU or dGPU to run models using Ollama. Make sure to have reBar enabled

要求

Unraid 7+

运行时参数

网络
bridge
外壳
bash
特权
false

模板配置

ModelsPathrw
目标
/root/.ollama
价值
/mnt/user/Models/ollama
GPUDevice
目标
/dev/dri
价值
/dev/dri
OLLAMA_HOSTVariable

Allow connections from the Value

目标
OLLAMA_HOST:
默认值
0.0.0.0
价值
0.0.0.0
ONEAPI_DEVICE_SELECTORVariable
价值
level_zero:0
IPEX_LLM_NUM_CTXVariable
价值
16384
Ollama portPorttcp
目标
11434
价值
11434
OLLAMA_INTEL_GPUVariable
价值
1
OLLAMA_NUM_GPUVariable
价值
999
ZES_ENABLE_SYSMANVariable
价值
1
OLLAMA_DEBUGVariable

Enable Ollama debug logs

价值
1

类别

详细信息

存储库
ghcr.io/justjoseorg/ollama-intel-gpu:main
最后更新2026-05-31
初见2025-04-20

在Unraid 上运行 Intel-IPEX-LLM-Ollama 。

Intel-IPEX-LLM-Ollama 已被列入Unraid OS 的社区应用程序。探索Unraid ,构建灵活的家庭服务器、NAS 或家庭实验室。