LiteLLM
Docker 应用程序 from joly0's Repository
概述
LiteLLM provides a proxy server to manage auth, loadbalancing, and spend tracking across 100+ LLMs. All in the OpenAI format.
要求
Requires the config.yaml to be placed manually at the volume location
Example can be found here:
https://github.com/BerriAI/litellm/blob/main/proxy_server_config.yaml
Example can be found here:
https://github.com/BerriAI/litellm/blob/main/proxy_server_config.yaml
运行时参数
- 网络用户界面
http://[IP]:[PORT:4000]/ui- 网络
bridge- 外壳
bash- 特权
- false
模板配置
ConfigPathrw
- 目标
- /app
- 默认值
- /mnt/user/appdata/litellm
- 价值
- /mnt/user/appdata/litellm/litellm_config.yaml
API/WebUIPorttcp
- 目标
- 4000
- 默认值
- 4000
- 价值
- 4000
详细信息
存储库
ghcr.io/berriai/litellm:main-latest最后更新2026-05-31
初见2024-10-02
在Unraid 上运行 LiteLLM 。
LiteLLM 已被列入Unraid OS 的社区应用程序。探索Unraid ，构建灵活的家庭服务器、NAS 或家庭实验室。