Codex CLI праз LiteLLM Gateway на Bedrock Mantle

У гэтым керавані паштрацуецца ад сыр'ёў да рабочай сістэмы для выкарыстоўвання OpenAI Codex CLI з LiteLLM AI Gateway і Amazon Bedrock Mantle. Акцэнт ставіцца на практычныя крокі, чыстае перакананне ў правільнасці дзействаў і код, які можна проста падставіць у рэпазітарый без неабязковасці з'ясоўвання намеру. Для агледку, перш чым зменіць код, неабходна візначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аператары должны магчымае перадзваніць крок з вядомай точкі контролю без неабязковасці з'ясоўвання схованых станаў. Неабходна задокументаваць як шлях успеху, так і шлях вяснавання проблем. Перапрыбуткі, людзкія перакананні і апрацоўка некорэктных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней.

Падтрымка AWS для OpenAI

Для падкіплення AWS для OpenAI неабяцкова прадзеўляць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі павінны магчымаць перзапуск крока з вядомай точкі контролю, не прабуючы спадарацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшаў, прычына нехаспекі павінна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны працэс. Фіксаваць версіі залежнасцяў і запісваць хэш адобраза, які выканаў дамоўку. Возможнасць павтарэння важлівейшая за традыцыйныя знаёмства.

Даступ да іншых модэляў OpenAI

Для доступу да іншымя мадэлямі OpenAI неабходна ўпрыемка вводных дадзеных, адначыяўца крока і крэтарыі выходу пры змяне коду. Аператары должны магчымаць перзапуск крока з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы статус. Спрыяйце цэму этапу як кантракту межа вводнымі дадзенымі і паверанымі выходнымі рэзультатамі. Даўце назвы артыфактам, задаць крэтарыі успеху і адмовіцеся ад тыхняй частковай рэалізацыі без паведамлення. Фіксуйце версіі залежнасцяў і запісвуйце хэш адобраза, які выканаў дэманстрацыю. Возможнасць павторнага стварэння рэзультатаў важлівей за традыцыйныя знаёмства.

Інсталюйце Codex CLI

Для інсталяцыі Codex CLI неабходна прадзеяванне параметраў, вызначэнне адпаведальнага за выкананне крока і крэатарыяў завершэння працы перад зменыма коду. Аператары должны магчымае перзапуск крока з вядомай точкі контролю, не падозрываючы прыхованы стан. Запісваць трэба час выканання і кост токенаў або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівае прадставленне костоў запобегае неспакойным рахункам, калі працэс пераходзіць з дэмавай версіі ў спяльныя асяроддзя. Неабходна зафіксаваць версіі залежнасцяў і запісаць хэш адобразу, які выканаў дэму. Возможнасць павтарнага стварэння рэзультатаў лепшая за традыцыйныя методы. Для інсталяцыі Codex CLI неабходна прадзеяванне параметраў, вызначэнне адпаведальнага за выкананне крока і крэатарыяў завершэння працы перад зменыма коду. Аператары должны магчымае перзапуск крока з вядомай точкі контролю, не падозрываючы прыхованы стан. Неабходна аддзеяваць як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія контрольныя пункты і обработка некорэктных запытаў ёсць часткай продукту, а не дадатковым элементам пасля яго стварэння.

curl -fsSL https://chatgpt.com/codex/install.sh | sh

codex --version # currently codex-cli 0.142.5

Паказваць, што LiteLLM работае

Каб паказваць, што LiteLLM работае, перад змянайом код неабходна ўзначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аператары должны магчымаць перзапуск кроку з вядомай точкі контролю, не прабуючы спадарожваць схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выконваецца, прычына нехацкая должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Калі бюджэт дазволяе, дадзіце тэст на перакананне, які працюе з крытычным шляхам у CI за дапомогою фіксатываў, а не з рэальнымі платнымі API.

export LITELLM_DEMO_CLIENT_KEY="sk-your-litellm-virtual-key"

curl -fsS "http://localhost:4000/models" \
  -H "Authorization: Bearer $LITELLM_DEMO_CLIENT_KEY" \
| jq '[.data[]
  | select(.id | contains("openai"))
  | {id, max_input_tokens, max_output_tokens}]'

Меньшыя вікна кантэксту

Для меньшых прастораў кантэксту неабходна пазначыць вхідныя даны, абавесця крока і крытэрыі завершэння пры перадзмене коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не прабуючы спадарацца пра схованы стан. Спрыяйце цэму этапу як даговору межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даўце назвы артыфактам, пазначыце крытэрыі успеху і не прымайце часткова завершаныя рэзультаты без паведамлення. Калі дозволяе бюджэт, дадзіце тэст на перакананне работы крытычнага шляху ў сістэме CI з вікорыстанням фіксатываў, а не рэальных платных API.

Вікорыстоўванне Bedrock Mantle проты LiteLLM

Для выкарыстоўвання Bedrock Mantle проты LiteLLM неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аператары должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Запісвайце час выканання і вартасьць токенаў або запытак паляглі разам з функцыйнальнымі рэзультатамі. Відразлівае паказанне вартасцей запобегае неспадзяваным рахункам, калі працэс пераходзіць з дэмаверсіі ў спяльныя сераўры. Калі дозволяе бюджэт, дадзіце тэст на перакананне, які працуе з крытычным маршрутом у сістэме CI за дапамою фіксатываў, а не з рэальнымі платнымі API. Для выкарыстоўвання Bedrock Mantle проты LiteLLM неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аператары должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Дакументавайце як успішны, так і варыянт вяснавання працэсу. Перапрыбуткі, людзкія контрольныя пункты і обработка некорэктных запытак ёсць часткай продукту, а не чымсь, што дадаецца пазней.

model_provider = "amazon-bedrock"
model = "openai.gpt-5.5"

export AWS_BEARER_TOKEN_BEDROCK="<your-bedrock-api-key>"
export AWS_REGION="us-east-2"

Стварыце прафіль Codex LiteLLM

Каб стварыць прафіль Codex LiteLLM, спачатку неабяжна вказаць параметры вхідных дадзеных, адміністратара крока і крытэрыя завершэння перад змінайом коду. Аперацыяныя працавнікі должны магчымае перадзваначы крок з вядомай точкі контролю, не прабуючы вычысляць захаваны стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выконваецца, прычына неудачы должна вказываць на адзін конкрэтны элемент, а не на заплутаную структуру задач. Напісце кароткі посібнік: як зменяць канты, як спрачысляць чэргу задач, як відклікнуць пярэдніе змены.

CODEX_HOME="${CODEX_HOME:-$HOME/.codex}"
mkdir -p "$CODEX_HOME"

cat > "$CODEX_HOME/litellm.config.toml" <<EOF
model = "bedrock-mantle-openai-gpt-5-4"
model_provider = "litellm"
model_catalog_json = "$CODEX_HOME/model-catalogs/litellm.json"

[model_providers.litellm]
name = "LiteLLM"
base_url = "http://localhost:4000"
env_key = "LITELLM_DEMO_CLIENT_KEY"
wire_api = "responses"
EOF

wire_api = "responses"

Дадзіце мета-даныя мадэлі для псевдонімаў LiteLLM

Для дадзення мета-даных модэлі для аліясаў LiteLLM неабходна падчас змены коду задаць вхідныя даны, абавесця крока і крэтыры завершэння. Аперацыяныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Спрыяйце гэтаму этапу як кантракту межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даць назвы артыфактам, задаць перакананні на успех і адмовіцца ад тыхняе частковага завершэння без паведамлення. Напісце кароткі посоўнік: як зменяць клучы, як спрачыслаць чэргу, як анулюваць пасляпэўныя дзеянні.

CODEX_HOME="${CODEX_HOME:-$HOME/.codex}"
mkdir -p "$CODEX_HOME/model-catalogs"
jq '{
  models: [
    (.models[]
      | select(.slug == "gpt-5.4")
      | .slug = "bedrock-mantle-openai-gpt-5-4"
      | .display_name = "LiteLLM Bedrock GPT-5.4"
      | .description = "LiteLLM alias for GPT-5.4 through Bedrock Mantle."
      | .upgrade = null
      | .availability_nux = null
      | .max_context_window = .context_window),
    (.models[]
      | select(.slug == "gpt-5.5")
      | .slug = "bedrock-mantle-openai-gpt-5-5"
      | .display_name = "LiteLLM Bedrock GPT-5.5"
      | .description = "LiteLLM alias for GPT-5.5 through Bedrock Mantle."
      | .upgrade = null
      | .availability_nux = null)
  ]
}' "$CODEX_HOME/models_cache.json" > "$CODEX_HOME/model-catalogs/litellm.json"

Необавязкова: але вы хочаце GPT-5.4 mini

Для неабяцковага выкарыстоўвання: але калі вы хочаце GPT-5.4 mini, паказвайце вхідныя даны, адпаведальнага за крок і крытэрыя завершэння прычым перад зменайом коду. Аператары должны магчымае перзапускіць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Запісвайце час выканання і кост токеноў або запытаў праза функцыйнае рэзультаты. Відкрытыя даныя пра косцы запобегаюць неспакоўным рахункам, калі працэс пераходзіць з дэмавайго рэжыма ў спяльныя сераўры. Напісцы короткі посібнік: як зменяць клучы, як спрачыслаць чэргу, як анулюваць пярэдніе дадзеныя. Для неабяцковага выкарыстоўвання: але калі вы хочаце GPT-5.4 mini, паказвайце вхідныя даны, адпаведальнага за крок і крытэрыя завершэння прычым перад зменайом коду. Аператары должны магчымае перзапускіць крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Документавайце як правільны, так і альтэрнатыўны паходы рашэння. Праказы, людзкія перакрыцця і апрацоўка непрацэсаваных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней.

CODEX_HOME="${CODEX_HOME:-$HOME/.codex}"
mkdir -p "$CODEX_HOME/model-catalogs"
jq '{
  models: [
    (.models[]
      | select(.slug == "gpt-5.4")
      | .slug = "bedrock-mantle-openai-gpt-5-4"
      | .display_name = "LiteLLM Bedrock GPT-5.4"
      | .description = "LiteLLM alias for GPT-5.4 through Bedrock Mantle."
      | .upgrade = null
      | .availability_nux = null
      | .max_context_window = .context_window),
    (.models[]
      | select(.slug == "gpt-5.5")
      | .slug = "bedrock-mantle-openai-gpt-5-5"
      | .display_name = "LiteLLM Bedrock GPT-5.5"
      | .description = "LiteLLM alias for GPT-5.5 through Bedrock Mantle."
      | .upgrade = null
      | .availability_nux = null
      | .max_context_window = .context_window),
    (.models[]
      | select(.slug == "gpt-5.4-mini")
      | .slug = "openai-gpt-5-4-mini"
      | .display_name = "LiteLLM OpenAI GPT-5.4 Mini"
      | .description = "LiteLLM alias for GPT-5.4 mini through OpenAI."
      | .upgrade = null
      | .availability_nux = null
      | .max_context_window = .context_window)
  ]
}' "$CODEX_HOME/models_cache.json" > "$CODEX_HOME/model-catalogs/litellm.json"

Пачатак работы з Codex праз LiteLLM

Для пачатку работы з Codex праз LiteLLM неабяжна ўзначыць вхідныя даны, адпаведальнага за кожны крок і крытэрыі завершэння пры змяне коду. Аператары должны магчымаць перзапуск кроку з вядомай точкі контролю, не прабуючы спадароўваць схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны працэс. Фіксаваць версіі залежнасцяў і запісваць хеш адобраза, які выканаў дэманстрацыю. Возможнасць перадзвічання рэзультатаў важлівей, чым традыцыйныя знання.

codex --profile litellm

codex --profile litellm -m bedrock-mantle-openai-gpt-5-5

Чаму гэта работае

Кабы з’ясаваць, чаму гэта працюе, перад змянайом код неабходна ўзначыць вхідныя даны, адпаведальнага за крок і крытэрыя завершэння. Аператары должны магчымае перайсці на гэты крок з вядомага пункта контролю, не спрабоўваючы здогадвацца пра схованы стан. Спрыяйце цім этапу як кантракту межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, узначыць тэсты на успех і не падтрымайце безслухова часткова завершэння. Фіксуйце версіі залежнасцяў і запішыце хэш адобраза, які выканаў дамэ. Возможнасць перадзвічання важлівейшая за традыцыйныя знання.

codex --profile litellm

Апавясненні

Для справакі, перш чым зменяць код, неабходна ясная дэфініцыя вхідных дадзеных, адпаведнага адпаведальнага за крок і крэтарыяў завершэння. Аперацыйныя працавнікі должны магчымае перзапускаць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Запісвайце час выканання і вартасьць токеноў або запытанняя разам з функцыйнальнымі рэзултатамі. Відразы вартасцей з самага пачатку запобегае неспакою, калі працэс пераходзіць з дэмавайнага рэжыма ў спяльныя асяроддзя. Фіксуйце версіі залежнасцяў і запісвайце хэш адпрацоўванага зображэння, якое выконвало дэму. Возможнасць павторнага стварэння рэзултатаў важлівей, чым традыцыйныя знаёмства.

Чэк-ліст для аперацый

Для канцэларскага чак-ліста, пры змяне коду, неабходна ясная ваказка пра вхідныя даны, адміністратара практыкі і крэтыяры завершэння. Аперацыйныя працавнікі павінны магчымаць перзапуск практыкі з вядомага контрольнага пункту, не спрабоўваючы здогадвацца пра схованы стан.

Конфігурацыю трэба зберагаць праза код аплікацыі. Файлы сяродавішча, хранільнікі секрэтных дадзеных і флагі функцый канальна знаходзіцца ў аднам месцы, якое працавнікі можуць пераглядаць, не чытаючы весь ланцуг.

Калі дозволяе бюджэт, трэба дадаць тэст на пераканальнае працаванне, які апрацоўвае крытычны шлях у сістэме CI з вікорыстаннем фіксатываў, а не рэальных платных API.

Запісваць трэба часы выканання і кост токена або запыту разам з функцыйнымі рэзультатамі. Відразлівасць костаў з самага пачатку запобегае неспакойным рахункам, калі шлях пераходзіць з дэмаверсіі ў спяльныя сяродавішча.

Забезпечыць фіксаванне версый залежнасцей і запісваць хэш адобраза, які выканаў дэмаверсію. Возможнасць перадаравання рэзультатаў лепшая за традыцыйныя знаёмства.

Спрытваце гэты ўражак як кантракт межа вхіднымі дадзеннямі і пасвярджанымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце крытэрыя успеху і не прымайце часткова завершэння без паведамлення.

Перад пераходам да наступнага ўражака заморозьце версіі, зафіксуйце «золаты» транскрыпт для крытычнага маршруту і паказваце крокі для атрыбуцыі. У спадзяльных срэдах неабходны ліміты частоты, перакананні ў прыналежнасці і чыстае адначасовае кераванне секрэтнымі дадзеннямі. Валіце надзейнасць працы над красавімі разовымі дэманстраціямі.