LiteLLM

LiteLLM

Aplicación Docker from joly0's Repository

Visión general

LiteLLM provides a proxy server to manage auth, loadbalancing, and spend tracking across 100+ LLMs. All in the OpenAI format.

Requisitos

Requires the config.yaml to be placed manually at the volume location
Example can be found here:
https://github.com/BerriAI/litellm/blob/main/proxy_server_config.yaml

Argumentos en tiempo de ejecución

Interfaz web
http://[IP]:[PORT:4000]/ui
Red
bridge
Concha
bash
Privilegiado
false

Configuración de plantillas

ConfigPathrw
Objetivo
/app
Por defecto
/mnt/user/appdata/litellm
Valor
/mnt/user/appdata/litellm/litellm_config.yaml
API/WebUIPorttcp
Objetivo
4000
Por defecto
4000
Valor
4000

Detalles

Repositorio
ghcr.io/berriai/litellm:main-latest
Última actualización2026-05-31
Visto por primera vez2024-10-02

Ejecute LiteLLM en Unraid.

LiteLLM se encuentra en Community Apps para Unraid OS. Explore Unraid para crear un servidor doméstico flexible, un NAS o un laboratorio doméstico.