koboldcpp
Docker-Anwendung from oromis95's Repository
Übersicht
KoboldCpp is a lightweight but powerful AI backend, bundled with KoboldAI Lite frontend.
https://hub.docker.com/r/koboldai/koboldcpp/
Laufzeit-Argumente
- Web-UI
http://[IP]:[PORT:5001]/- Netzwerk
bridge- Shell
bash- Privilegiert
- false
- Extra Params
--gpus all
Konfiguration der Vorlage
Don't Remote TunnelVariable
- Ziel
- KCPP_DONT_TUNNEL
- Standard
- true
- Wert
- true
WorkspacePathrw
This is where your docker data will be stored. Models and binaries will be saved here.
- Ziel
- /workspace
KCPP_ARGSVariable
This is where we add run variables. '--model' accepts URL's and filenames.
- Standard
- --model https://huggingface.co/concedo/KobbleTinyV2-1.1B-GGUF/resolve/main/KobbleTiny-Q4_K.gguf
- Wert
- --model https://huggingface.co/concedo/KobbleTinyV2-1.1B-GGUF/resolve/main/KobbleTiny-Q4_K.gguf
WebUI PortPorttcp
- Ziel
- 5001
- Standard
- 5002
- Wert
- 5002
Don't Update Kobold on LaunchVariable
The Docker container update is a separate update. This just updates the binary.
- Ziel
- KCPP_DONT_UPDATE
- Standard
- false
- Wert
- false
Retain Models on RestartVariable
- Ziel
- KCPP_DONT_REMOVE_MODELS
- Standard
- true
- Wert
- true
Kategorien
Statistik herunterladen
112,230
Downloads insgesamt
6,163
Dieser Monat
6,101
Durchschnittlich / Monat
Gesamte Downloads im Laufe der Zeit
Tabelle laden...
Einzelheiten
Repository
koboldai/koboldcppZuletzt aktualisiert2026-05-06
Erstmals gesehen2025-03-03
Führen Sie Koboldcpp auf Unraid aus.
Koboldcpp ist gelistet in Community Apps für Unraid OS. Erkunden Sie Unraid, um einen flexiblen Heimserver, ein NAS oder ein Heimlabor aufzubauen.