koboldcpp
Aplicación Docker from oromis95's Repository
Visión general
KoboldCpp is a lightweight but powerful AI backend, bundled with KoboldAI Lite frontend.
https://hub.docker.com/r/koboldai/koboldcpp/
Argumentos en tiempo de ejecución
- Interfaz web
http://[IP]:[PORT:5001]/- Red
bridge- Concha
bash- Privilegiado
- false
- Parámetros adicionales
--gpus all
Configuración de plantillas
Don't Remote TunnelVariable
- Objetivo
- KCPP_DONT_TUNNEL
- Por defecto
- true
- Valor
- true
WorkspacePathrw
This is where your docker data will be stored. Models and binaries will be saved here.
- Objetivo
- /workspace
KCPP_ARGSVariable
This is where we add run variables. '--model' accepts URL's and filenames.
- Por defecto
- --model https://huggingface.co/concedo/KobbleTinyV2-1.1B-GGUF/resolve/main/KobbleTiny-Q4_K.gguf
- Valor
- --model https://huggingface.co/concedo/KobbleTinyV2-1.1B-GGUF/resolve/main/KobbleTiny-Q4_K.gguf
WebUI PortPorttcp
- Objetivo
- 5001
- Por defecto
- 5002
- Valor
- 5002
Don't Update Kobold on LaunchVariable
The Docker container update is a separate update. This just updates the binary.
- Objetivo
- KCPP_DONT_UPDATE
- Por defecto
- false
- Valor
- false
Retain Models on RestartVariable
- Objetivo
- KCPP_DONT_REMOVE_MODELS
- Por defecto
- true
- Valor
- true
Categorías
Descargar estadísticas
112,230
Descargas totales
6,163
Este mes
6,101
Media / Mes
Descargas totales a lo largo del tiempo
Cargando gráfico...
Detalles
Repositorio
koboldai/koboldcppÚltima actualización2026-05-06
Visto por primera vez2025-03-03
Ejecute Koboldcpp en Unraid.
Koboldcpp se encuentra en Community Apps para Unraid OS. Explore Unraid para crear un servidor doméstico flexible, un NAS o un laboratorio doméstico.