koboldcpp
Application Docker from oromis95's Repository
Vue d'ensemble
KoboldCpp is a lightweight but powerful AI backend, bundled with KoboldAI Lite frontend.
https://hub.docker.com/r/koboldai/koboldcpp/
Arguments d'exécution
- Interface utilisateur Web
http://[IP]:[PORT:5001]/- Réseau
bridge- Coquille
bash- Privilégié
- false
- Paramètres supplémentaires
--gpus all
Configuration du modèle
Don't Remote TunnelVariable
- Cible
- KCPP_DONT_TUNNEL
- Défaut
- true
- Valeur
- true
WorkspacePathrw
This is where your docker data will be stored. Models and binaries will be saved here.
- Cible
- /workspace
KCPP_ARGSVariable
This is where we add run variables. '--model' accepts URL's and filenames.
- Défaut
- --model https://huggingface.co/concedo/KobbleTinyV2-1.1B-GGUF/resolve/main/KobbleTiny-Q4_K.gguf
- Valeur
- --model https://huggingface.co/concedo/KobbleTinyV2-1.1B-GGUF/resolve/main/KobbleTiny-Q4_K.gguf
WebUI PortPorttcp
- Cible
- 5001
- Défaut
- 5002
- Valeur
- 5002
Don't Update Kobold on LaunchVariable
The Docker container update is a separate update. This just updates the binary.
- Cible
- KCPP_DONT_UPDATE
- Défaut
- false
- Valeur
- false
Retain Models on RestartVariable
- Cible
- KCPP_DONT_REMOVE_MODELS
- Défaut
- true
- Valeur
- true
Catégories
Télécharger les statistiques
112,230
Total des téléchargements
6,163
Ce mois-ci
6,101
Moyenne / Mois
Total des téléchargements au fil du temps
Chargement du graphique...
Détails
Référentiel
koboldai/koboldcppDernière mise à jour2026-05-06
Première vue2025-03-03
Exécutez Koboldcpp sur Unraid.
Koboldcpp est listé dans Community Apps pour Unraid OS. Explorez Unraid pour créer un serveur domestique flexible, un NAS ou un laboratoire domestique.