首页 / 文章

将 OpenAI Codex 指向 LiteLLM 代理,以处理模型路由与预算管理。

将 OpenAI Codex 指向一个 LiteLLM 代理网址,即可访问多种模型,同时拥有集中式的成本日志,以及为每位开发者分配的带有独立预算的虚拟密钥。

发布者:REACTAPP.TOP阅读约 5 分钟1062 词

来源: How to set up OpenAI Codex with LiteLLM

本指南介绍如何让 OpenAI Codex 使用您运行的 LiteLLM 代理(或您的团队已托管的代理)。Codex 会从配置文件中读取一个基础 URL,因此通过代理可以实现多模型路由、集中式日志与成本管理、为每位开发者分配带预算限制的密钥,同时在服务器上设置一个上游服务提供商密钥。

需求条件

Docker(或现有的 LiteLLM 接口),Codex CLI 或桌面应用,以及至少一个上游模型提供商的访问权限。

1. 安装 OpenAI Codex

按照当前的 CLI/桌面版安装文档进行操作。在连接代理之前,请先确认 codex 能在本地正常运行。

2. 配置 LiteLLM 以实现模型路由

config.yaml

npm install -g @openai/codex
model_list:
  # `codex -m <id>` works with any of them.
  - model_name: gpt-5.6-terra
    litellm_params:
      model: openai/gpt-5.6-terra
      api_key: os.environ/OPENAI_API_KEY
  - model_name: gpt-5.6-luna
    litellm_params:
      model: openai/gpt-5.6-luna
      api_key: os.environ/OPENAI_API_KEY
  - model_name: gpt-5.6-sol
    litellm_params:
      model: openai/gpt-5.6-sol
      api_key: os.environ/OPENAI_API_KEY

  # Anything from another provider goes in the same list.
  - model_name: claude-sonnet-5
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY

  # Catch-all, so `codex -m <anything>` reaches OpenAI without editing
  # this file. Delete this entry to restrict a fleet to the list above.
  - model_name: "*"
    litellm_params:
      model: openai/*
      api_key: os.environ/OPENAI_API_KEY

litellm_settings:
  drop_params: true

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY
  # Coding turns stream for a long time. Do not cut them off.
  request_timeout: 600
name: litellm-coding-agents

services:
  litellm:
    image: ghcr.io/berriai/litellm:main-stable
    restart: unless-stopped
    command: ["--config", "/app/config.yaml", "--port", "4000"]
    ports:
      - "4000:4000"
    volumes:
      - ./config.yaml:/app/config.yaml:ro
    env_file:
      - .env
    environment:
      DATABASE_URL: postgresql://litellm:litellm@postgres:5432/litellm
      STORE_MODEL_IN_DB: "True"
    depends_on:
      postgres:
        condition: service_healthy
    healthcheck:
      test: ["CMD-SHELL", "python -c \"import urllib.request,sys; sys.exit(0 if urllib.request.urlopen('http://localhost:4000/health/liveliness').status==200 else 1)\""]
      interval: 10s
      timeout: 5s
      retries: 12
      start_period: 30s

  postgres:
    image: postgres:16-alpine
    restart: unless-stopped
    # Deliberately not published to the host. Nothing outside this
    # network needs it, and 5432 is usually already taken.
    environment:
      POSTGRES_USER: litellm
      POSTGRES_PASSWORD: litellm
      POSTGRES_DB: litellm
    volumes:
      - litellm-pgdata:/var/lib/postgresql/data
    healthcheck:
      test: ["CMD-SHELL", "pg_isready -U litellm -d litellm"]
      interval: 5s
      timeout: 5s
      retries: 20

volumes:
  name: litellm-pgdata
OPENAI_API_KEY=... ANTHROPIC_API_KEY=... LITELLM_MASTER_KEY=sk-1234
docker compose up -d
curl -s http://localhost:4000/health/liveliness
curl -s http://localhost:4000/v1/models -H "Authorization: Bearer sk-1234" | head -c 400
lsof -nP -iTCP:4000 -sTCP:LISTEN
cp ~/.codex/config.toml ~/.codex/config.toml.bak 2>/dev/null || true
model = "gpt-5.6-terra" model_provider = "litellm" model_reasoning_effort = "medium" [model_providers.litellm] name = "LiteLLM Gateway" base_url = "http://localhost:4000/v1" # More on setting up LITELLM_API_KEY towards the end env_key = "LITELLM_API_KEY" # Codex talks the Responses API. wire_api = "responses" # A coding turn can stream for long time, hence the setting below stream_idle_timeout_ms = 7200000 stream_max_retries = 5 request_max_retries = 4 # Codex cli complains if not in a trusted folder [projects."/path/to/your/project"] trust_level = "trusted"
codex exec "reply with the word CONNECTED and nothing else"
launchctl setenv LITELLM_API_KEY "sk-1234"
export LITELLM_API_KEY=""
codex -m gpt-5.6-luna
# Optional profiles # Saved model plus reasoning-effort pairs. `codex --profile deep`. [profiles.fast] model = "gpt-5.6-luna" model_reasoning_effort = "low" [profiles.deep] model = "gpt-5.6-sol" model_reasoning_effort = "high"
codex --profile deep

将模型别名与上游部署对应起来。敏感信息应存储在环境变量中,而非提交到 Git 的 YAML 文件中。

3. 启动 LiteLLM 代理

docker-compose.yml

启动代理并检查 /models 接口的状态。

4. 配置 Codex 使用 LiteLLM

~/.codex/config.toml

将基础 URL 设置为你的代理地址,并使用 LiteLLM 发放的虚拟密钥,而非原始提供商密钥。

5. 运行 Codex

下达一个简单的编程任务,确认 LiteLLM 日志中显示了所使用的模型及令牌信息。

6. 桌面应用

将桌面客户端指向相同的基准 URL/密钥,以便命令行界面和用户界面共享预算。

高级选项

虚拟密钥

为每位开发者设置带有模型允许列表和支出上限的密钥,可防止某个异常会话耗尽机构预算。

使用不同模型

可在 Codex 配置中或按请求更改别名;LiteLLM 会处理上游模型的差异。

其他资源

请固定 LiteLLM 和 Codex 的版本;经过一段平静的时期后,代理认证和模型别名出现变动往往是常见问题。

安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换——因为它集中存储了提供商的凭证,并能查看所有提示词。

安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换——因为它集中存储了提供商的凭证,并能查看所有提示词。

安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务——需启用 TLS、网络允许列表以及密钥轮换机制,因为它会集中存储提供商的凭证并查看所有输入内容。

安全提示:请将代理视为生产级服务来使用——启用 TLS、网络允许列表以及密钥轮换机制,因为它集中存储了服务提供商的凭证,并能查看所有输入内容。

安全提示:请将代理视为生产级服务来使用——启用 TLS、网络允许列表以及密钥轮换机制,因为它集中存储了服务提供商的凭证,并能查看所有输入内容。