LiteLLM CLI 命令速查表 - 统一 LLM 网关与代理服务器
LiteLLM 统一网关命令都在这里了,从一行起代理到配置驱动、从多供应商路由到成本/限流,按场景分类整理,复制即用。
安装 5
uv tool install 'litellm[proxy]'推荐:用 uv 装代理版(含 proxy 依赖)
pip install "litellm[proxy]"备选:pip 安装代理版
litellm --version查看已安装版本
litellm --help查看全部子命令
python -c "import litellm; print(litellm.__version__)"确认 Python 包可用
启动代理(CLI 一行) 5
litellm --model gpt-3.5-turbo起 OpenAI 兼容代理(默认 :4000)
litellm --model anthropic/claude-...anthropic/ 前缀路由到 Claude
litellm --model ollama/ ollama/ 前缀走本地 Ollama
litellm --model bedrock/anthropic.claude-v2bedrock/ 前缀走 AWS Bedrock
litellm --model vllm/<model>vllm/ 前缀走本地 vLLM
配置驱动(生产推荐) 5
litellm --config config.yaml用配置文件启动(模型列表/密钥/路由)
litellm --config config.yaml --detailed_debug开详细调试日志排错
litellm --test自检:对当前代理发一次测试请求
litellm --test <model>指定模型做连通性测试
export OPENAI_API_KEY=...设置后端供应商密钥
路由与运维 5
openai_api_base=http://0.0.0.0:4000客户端指向 LiteLLM 代理
curl http://0.0.0.0:4000/v1/models查看代理暴露的模型列表
litellm --model <provider>/ --api_base <url>指向自定义 OpenAI 兼容端点
litellm --drop_params丢弃后端不支持的参数,提升兼容
litellm --telemetry False关闭遥测(隐私/离线环境)
实用技巧 5
一行起代理适合本地验证快速试不同供应商
生产用 --config 而非一行配置集中管理密钥/路由/预算
provider/ 前缀是关键openai/ anthropic/ ollama/ 决定路由
改完配置 --test 自检避免上线才发现连不通
代理统一 OpenAI 协议旧 OpenAI 客户端改 base_url 即可
提示
- LiteLLM 用 `provider/` 前缀统一路由 100+ 模型到同一 OpenAI 兼容接口,是做"多供应商兜底/成本/限流"的事实标准网关。
- 本地快速验证用一行 `litellm --model <provider/model>`;生产务必用 `--config config.yaml` 集中管密钥、路由与预算。
- 代理默认监听 :4000,旧 OpenAI 客户端只要改 `base_url` 即可无缝切换供应商,迁移成本极低。
- 改完配置跑 `litellm --test` 自检连通性,避免上线才发现后端连不通。
由 巧匠 维护
公开更新于 2026年8月23日,内容持续校对官方文档。