将 OpenAI Codex 指向 LiteLLM 代理,以处理模型路由与预算管理。
将 OpenAI Codex 指向一个 LiteLLM 代理网址,即可访问多种模型,同时拥有集中式的成本日志,以及为每位开发者分配的带有独立预算的虚拟密钥。
本指南介绍如何让 OpenAI Codex 使用您运行的 LiteLLM 代理(或您的团队已托管的代理)。Codex 会从配置文件中读取一个基础 URL,因此通过代理可以实现多模型路由、集中式日志与成本管理、为每位开发者分配带预算限制的密钥,同时在服务器上设置一个上游服务提供商密钥。
需求条件
Docker(或现有的 LiteLLM 接口),Codex CLI 或桌面应用,以及至少一个上游模型提供商的访问权限。
1. 安装 OpenAI Codex
按照当前的 CLI/桌面版安装文档进行操作。在连接代理之前,请先确认 codex 能在本地正常运行。
2. 配置 LiteLLM 以实现模型路由
config.yaml
npm install -g @openai/codex
model_list:
# `codex -m <id>` works with any of them.
- model_name: gpt-5.6-terra
litellm_params:
model: openai/gpt-5.6-terra
api_key: os.environ/OPENAI_API_KEY
- model_name: gpt-5.6-luna
litellm_params:
model: openai/gpt-5.6-luna
api_key: os.environ/OPENAI_API_KEY
- model_name: gpt-5.6-sol
litellm_params:
model: openai/gpt-5.6-sol
api_key: os.environ/OPENAI_API_KEY
# Anything from another provider goes in the same list.
- model_name: claude-sonnet-5
litellm_params:
model: anthropic/claude-sonnet-5
api_key: os.environ/ANTHROPIC_API_KEY
# Catch-all, so `codex -m <anything>` reaches OpenAI without editing
# this file. Delete this entry to restrict a fleet to the list above.
- model_name: "*"
litellm_params:
model: openai/*
api_key: os.environ/OPENAI_API_KEY
litellm_settings:
drop_params: true
general_settings:
master_key: os.environ/LITELLM_MASTER_KEY
# Coding turns stream for a long time. Do not cut them off.
request_timeout: 600
name: litellm-coding-agents
services:
litellm:
image: ghcr.io/berriai/litellm:main-stable
restart: unless-stopped
command: ["--config", "/app/config.yaml", "--port", "4000"]
ports:
- "4000:4000"
volumes:
- ./config.yaml:/app/config.yaml:ro
env_file:
- .env
environment:
DATABASE_URL: postgresql://litellm:litellm@postgres:5432/litellm
STORE_MODEL_IN_DB: "True"
depends_on:
postgres:
condition: service_healthy
healthcheck:
test: ["CMD-SHELL", "python -c \"import urllib.request,sys; sys.exit(0 if urllib.request.urlopen('http://localhost:4000/health/liveliness').status==200 else 1)\""]
interval: 10s
timeout: 5s
retries: 12
start_period: 30s
postgres:
image: postgres:16-alpine
restart: unless-stopped
# Deliberately not published to the host. Nothing outside this
# network needs it, and 5432 is usually already taken.
environment:
POSTGRES_USER: litellm
POSTGRES_PASSWORD: litellm
POSTGRES_DB: litellm
volumes:
- litellm-pgdata:/var/lib/postgresql/data
healthcheck:
test: ["CMD-SHELL", "pg_isready -U litellm -d litellm"]
interval: 5s
timeout: 5s
retries: 20
volumes:
name: litellm-pgdata
OPENAI_API_KEY=... ANTHROPIC_API_KEY=... LITELLM_MASTER_KEY=sk-1234
docker compose up -d
curl -s http://localhost:4000/health/liveliness
curl -s http://localhost:4000/v1/models -H "Authorization: Bearer sk-1234" | head -c 400
lsof -nP -iTCP:4000 -sTCP:LISTEN
cp ~/.codex/config.toml ~/.codex/config.toml.bak 2>/dev/null || true
model = "gpt-5.6-terra" model_provider = "litellm" model_reasoning_effort = "medium" [model_providers.litellm] name = "LiteLLM Gateway" base_url = "http://localhost:4000/v1" # More on setting up LITELLM_API_KEY towards the end env_key = "LITELLM_API_KEY" # Codex talks the Responses API. wire_api = "responses" # A coding turn can stream for long time, hence the setting below stream_idle_timeout_ms = 7200000 stream_max_retries = 5 request_max_retries = 4 # Codex cli complains if not in a trusted folder [projects."/path/to/your/project"] trust_level = "trusted"
codex exec "reply with the word CONNECTED and nothing else"
launchctl setenv LITELLM_API_KEY "sk-1234"
export LITELLM_API_KEY=""
codex -m gpt-5.6-luna
# Optional profiles # Saved model plus reasoning-effort pairs. `codex --profile deep`. [profiles.fast] model = "gpt-5.6-luna" model_reasoning_effort = "low" [profiles.deep] model = "gpt-5.6-sol" model_reasoning_effort = "high"
codex --profile deep
将模型别名与上游部署对应起来。敏感信息应存储在环境变量中,而非提交到 Git 的 YAML 文件中。
3. 启动 LiteLLM 代理
docker-compose.yml
启动代理并检查 /models 接口的状态。
4. 配置 Codex 使用 LiteLLM
~/.codex/config.toml
将基础 URL 设置为你的代理地址,并使用 LiteLLM 发放的虚拟密钥,而非原始提供商密钥。
5. 运行 Codex
下达一个简单的编程任务,确认 LiteLLM 日志中显示了所使用的模型及令牌信息。
6. 桌面应用
将桌面客户端指向相同的基准 URL/密钥,以便命令行界面和用户界面共享预算。
高级选项
虚拟密钥
为每位开发者设置带有模型允许列表和支出上限的密钥,可防止某个异常会话耗尽机构预算。
使用不同模型
可在 Codex 配置中或按请求更改别名;LiteLLM 会处理上游模型的差异。
其他资源
请固定 LiteLLM 和 Codex 的版本;经过一段平静的时期后,代理认证和模型别名出现变动往往是常见问题。
安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换——因为它集中存储了提供商的凭证,并能查看所有提示词。
安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换——因为它集中存储了提供商的凭证,并能查看所有提示词。
安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。
安全提示:请将代理视为生产级服务来使用——启用 TLS、网络允许列表以及密钥轮换机制,因为它集中存储了服务提供商的凭证,并能查看所有输入内容。
安全提示:请将代理视为生产级服务来使用——启用 TLS、网络允许列表以及密钥轮换机制,因为它集中存储了服务提供商的凭证,并能查看所有输入内容。