Zurück zu Anwendungen Eine App einreichenEinreichen

llama.cpp

llama.cpp

Docker-Anwendung from grtgbln's Repository

Übersicht

Inference of Meta's LLaMA model (and others) in pure C/C++

Anforderungen

        The image for this container is several gigabytes. If you receive a "no space left on device" warning during installation, please increase the vDisk size in your Docker settings.
        This container expects a "model.gguf" file to be present in the model storage path.
        If you are using an Nvidia GPU, add "--gpus all" to the Extra Parameters field under Advanced.

Laufzeit-Argumente

Web-UI: http://[IP]:[PORT:8000]/
Netzwerk: bridge
Privilegiert: false

Konfiguration der Vorlage

WebUIPorttcp

Container Port: 8000

Ziel: 8000
Standard: 8000
Wert: 8000

Model Storage PathPathrw

Storage for model

Ziel: /models
Standard: /mnt/user/appdata/llama_cpp/model
Wert: /mnt/user/appdata/llama_cpp/model

Kategorien

AI Productivity Tools > Utilities Other

Links

Vorlage Unterstützung GHCR Project

Einzelheiten

Repository

ghcr.io/ggml-org/llama.cpp:full

Registry

https://registry.hub.docker.com/r/ghcr.io/ggml-org/llama.cpp

Zuletzt aktualisiert2026-06-02

Erstmals gesehen2026-02-24

Führen Sie llama.cpp auf Unraid aus.

llama.cpp ist gelistet in Community Apps für Unraid OS. Erkunden Sie Unraid, um einen flexiblen Heimserver, ein NAS oder ein Heimlabor aufzubauen.

Erkunden Sie Unraid OS