Richten Sie den OpenAI Codex auf einen LiteLLM-Proxy für geroutete Modelle und Budgets aus.

Weisen Sie den OpenAI Codex auf eine LiteLLM-Proxy-URL hin, um Zugang zu vielen Modellen zu erhalten, zentrale Kostenprotokolle sowie virtuelle Schlüssel pro Entwickler mit eigenen Budgets.

Verlag: REACTAPP.TOPAuf dieser Website hinzugefügt 26. Sept. 20265 Min. Lesezeit1062 Wörter

Quellen: How to set up OpenAI Codex with LiteLLM

Dieser Leitfaden weist OpenAI Codex auf einen von Ihnen betriebenen LiteLLM-Proxy hin (oder auf einen, den Ihr Team bereits hostet). Codex liest eine Basis-URL aus der Konfiguration, wodurch ein Proxy Ihnen mehrere Modellrouten ermöglicht, zentrale Protokolle/Kostenverwaltung, keys pro Entwickler mit Budgets sowie einen einzigen Key des upstream-Anbieters auf dem Server.

Anforderungen

Docker (oder ein vorhandener LiteLLM-Endpunkt), Codex CLI oder Desktop-Anwendung sowie Zugang zu mindestens einem upstream-Modellanbieter.

1. OpenAI Codex installieren

Befolgen Sie die aktuellen Installationsanleitungen für CLI/Desktop. Stellen Sie sicher, dass codex lokal läuft, bevor Sie einen Proxy verbinden.

2. LiteLLM für die Modellroutung konfigurieren

config.yaml

npm install -g @openai/codex

model_list:
  # `codex -m <id>` works with any of them.
  - model_name: gpt-5.6-terra
    litellm_params:
      model: openai/gpt-5.6-terra
      api_key: os.environ/OPENAI_API_KEY
  - model_name: gpt-5.6-luna
    litellm_params:
      model: openai/gpt-5.6-luna
      api_key: os.environ/OPENAI_API_KEY
  - model_name: gpt-5.6-sol
    litellm_params:
      model: openai/gpt-5.6-sol
      api_key: os.environ/OPENAI_API_KEY

  # Anything from another provider goes in the same list.
  - model_name: claude-sonnet-5
    litellm_params:
      model: anthropic/claude-sonnet-5
      api_key: os.environ/ANTHROPIC_API_KEY

  # Catch-all, so `codex -m <anything>` reaches OpenAI without editing
  # this file. Delete this entry to restrict a fleet to the list above.
  - model_name: "*"
    litellm_params:
      model: openai/*
      api_key: os.environ/OPENAI_API_KEY

litellm_settings:
  drop_params: true

general_settings:
  master_key: os.environ/LITELLM_MASTER_KEY
  # Coding turns stream for a long time. Do not cut them off.
  request_timeout: 600

name: litellm-coding-agents

services:
  litellm:
    image: ghcr.io/berriai/litellm:main-stable
    restart: unless-stopped
    command: ["--config", "/app/config.yaml", "--port", "4000"]
    ports:
      - "4000:4000"
    volumes:
      - ./config.yaml:/app/config.yaml:ro
    env_file:
      - .env
    environment:
      DATABASE_URL: postgresql://litellm:litellm@postgres:5432/litellm
      STORE_MODEL_IN_DB: "True"
    depends_on:
      postgres:
        condition: service_healthy
    healthcheck:
      test: ["CMD-SHELL", "python -c \"import urllib.request,sys; sys.exit(0 if urllib.request.urlopen('http://localhost:4000/health/liveliness').status==200 else 1)\""]
      interval: 10s
      timeout: 5s
      retries: 12
      start_period: 30s

  postgres:
    image: postgres:16-alpine
    restart: unless-stopped
    # Deliberately not published to the host. Nothing outside this
    # network needs it, and 5432 is usually already taken.
    environment:
      POSTGRES_USER: litellm
      POSTGRES_PASSWORD: litellm
      POSTGRES_DB: litellm
    volumes:
      - litellm-pgdata:/var/lib/postgresql/data
    healthcheck:
      test: ["CMD-SHELL", "pg_isready -U litellm -d litellm"]
      interval: 5s
      timeout: 5s
      retries: 20

volumes:
  name: litellm-pgdata

OPENAI_API_KEY=... ANTHROPIC_API_KEY=... LITELLM_MASTER_KEY=sk-1234

docker compose up -d

curl -s http://localhost:4000/health/liveliness

curl -s http://localhost:4000/v1/models -H "Authorization: Bearer sk-1234" | head -c 400

lsof -nP -iTCP:4000 -sTCP:LISTEN

cp ~/.codex/config.toml ~/.codex/config.toml.bak 2>/dev/null || true

model = "gpt-5.6-terra" model_provider = "litellm" model_reasoning_effort = "medium" [model_providers.litellm] name = "LiteLLM Gateway" base_url = "http://localhost:4000/v1" # More on setting up LITELLM_API_KEY towards the end env_key = "LITELLM_API_KEY" # Codex talks the Responses API. wire_api = "responses" # A coding turn can stream for long time, hence the setting below stream_idle_timeout_ms = 7200000 stream_max_retries = 5 request_max_retries = 4 # Codex cli complains if not in a trusted folder [projects."/path/to/your/project"] trust_level = "trusted"

codex exec "reply with the word CONNECTED and nothing else"

launchctl setenv LITELLM_API_KEY "sk-1234"

export LITELLM_API_KEY=""

codex -m gpt-5.6-luna

# Optional profiles # Saved model plus reasoning-effort pairs. `codex --profile deep`. [profiles.fast] model = "gpt-5.6-luna" model_reasoning_effort = "low" [profiles.deep] model = "gpt-5.6-sol" model_reasoning_effort = "high"

codex --profile deep

Ordnen Sie Modell-Aliasen den entsprechenden Quelldeployments zu. Bewahren Sie Geheimnisse in Umgebungsvariablen auf, nicht im in Git gespeicherten YAML.

3. Starten Sie den LiteLLM-Proxy

docker-compose.yml

Führen Sie den Proxy hoch und überprüfen Sie den Zustand des Endpunkts /models.

4. Konfigurieren Sie Codex zur Verwendung von LiteLLM

~/.codex/config.toml

Geben Sie die Basis-URL Ihres Proxys an und verwenden Sie einen von LiteLLM ausgestellten virtuellen Schlüssel – nicht den ursprünglichen Anbieter-Schlüssel.

5. Führen Sie Codex aus

Stellen Sie eine einfache Programmieraufgabe, um sicherzustellen, dass die LiteLLM-Logs das verwendete Modell sowie den Tokenverbrauch anzeigen.

6. Desktop-App

Weisen Sie den Desktop-Client auf dieselbe Basis-URL/Schlüssel ein, damit CLI und UI die Budgets teilen können.

Erweiterte Optionen

Virtuelle Schlüssel

Schlüssel pro Entwickler mit Modell-Allowlists und Ausgabobergen verhindern, dass eine unkontrollierte Sitzung das Budget der Organisation aufbraucht.

Nutzung verschiedener Modelle

Ändern Sie den Alias in der Codex-Konfiguration oder pro Anfrage; LiteLLM kümmert sich um Unterschiede zwischen den Quellenmodellen.

Weitere Ressourcen

Halten Sie die Versionen von LiteLLM und Codex konstant; Proxy-Authentifizierung sowie Abweichungen bei Modell-Alias sind die üblichen Probleme nach einem ruhigen Monat.

Sicherheitshinweis: Behandeln Sie den Proxy wie einen Produktivdienst – mit TLS, Netzwerk-Allowlists und Schlüsselrotation –, da er die Anmeldedaten des Anbieters bündelt und jeden Prompt sieht.

← Alle Artikel Brief senden