LiteLLM

LiteLLM

Docker-Anwendung from joly0's Repository

Übersicht

LiteLLM provides a proxy server to manage auth, loadbalancing, and spend tracking across 100+ LLMs. All in the OpenAI format.

Anforderungen

Requires the config.yaml to be placed manually at the volume location
Example can be found here:
https://github.com/BerriAI/litellm/blob/main/proxy_server_config.yaml

Laufzeit-Argumente

Web-UI
http://[IP]:[PORT:4000]/ui
Netzwerk
bridge
Shell
bash
Privilegiert
false

Konfiguration der Vorlage

ConfigPathrw
Ziel
/app
Standard
/mnt/user/appdata/litellm
Wert
/mnt/user/appdata/litellm/litellm_config.yaml
API/WebUIPorttcp
Ziel
4000
Standard
4000
Wert
4000

Einzelheiten

Repository
ghcr.io/berriai/litellm:main-latest
Zuletzt aktualisiert2026-06-01
Erstmals gesehen2024-10-02

Führen Sie LiteLLM auf Unraid aus.

LiteLLM ist gelistet in Community Apps für Unraid OS. Erkunden Sie Unraid, um einen flexiblen Heimserver, ein NAS oder ein Heimlabor aufzubauen.