Галоўная / Артыкулы / Azure OpenAI пры запуску кредытаванні: назвы размешчэння, регіоны і правілы адрабаткі файла .env

azure-openai rag students startup sdk python

Azure OpenAI пры запуску кредытаванні: назвы размешчэння, регіоны і правілы адрабаткі файла .env

Кредыты Azure для студэнтав робяць Azure OpenAI практычным для лабораторых RAG: якщо вы выберазе регіон з модэлем, назваце імя развёртывання і ніколі не выкладзеце ключы.

677 слоў

Студент пасляпрактычнага курсу звернуўся да Microsoft за падтрымкай для стартапаў з важлівым проектам і атрымаў 1 000 долераў у вачох Azure credits. Без зарэгістраванага бізнесу вышэйшыя рубрыкі не былі доступны, але гэтых кредытав прыметнаўся для навучання та запуску агентаў RAG без лясців з власнага бюджету. Бесплатны вычыслювальны ресурс таксама зробіў Azure OpenAI болей доступным, чым толькі для карпоратыўных кліянтав.

Якщо організацыя вже выкарыстоўвае Azure, то Azure OpenAI часта ёсць явным выборам — а не складным обходнім шляхам.

Далей прыводзіцца практычны карэнт гутавання, укладаючы памылку ў называнні, якая часта змушвае марнаваць вечар.

Чаму Azure OpenAI, а не толькі публічныя API OpenAI?

Тыя ж моделі класу GPT, але разны прынцып работы:

Стан са адпаведнасцю — працуе ў межах тэнанта Azure пад існуючымі сертыфікатамі (SOC 2, HIPAA і падобныя)

Адаптаванне пад стандарты — Azure AD, Key Vault, App Service, які можна выкарыстоўваць без додатковых прыемнікаў

Ейдзинавана адследжванне витак — сумы выкарыстоўвання адзначаюцца разам з іншымі рachункамі Azure

Крэдыты для студэнтаў/стартапаў — рэальная можлівасць эксперыментаў

Для работадаўцоў, якія фокусуюцца на Azure, гэта ёстабельны варыянт.

Настройка

Прыямыя выкананні: падпіска на Azure, доступ да Azure OpenAI (затверджэнне не ўтвараецца мгновенна), Python 3.8+, VS Code або падобныя інструменты.

1. Створыце рэсурс. Портал → “Azure OpenAI” → Стварыць. Выберыце падпіску, групу рэсурсаў і регіон.

Спачатку пераканайцеся, чы гэты модель доступны ў вашам регіоне. Не кожны модель даступны ў всіх регіонах; адкрыць гэта пасля запуску марнуе час.

Цэны: Standard S0 (крэдыты пакрываюць модель за принцыпам pay-as-you-go).

2. Размістіце модель у Azure AI Foundry. Выберыце «Размішчэння» → «Стварыць», пасля выберыце базовую модель (напрыклад gpt-4o) → задаце назву размішчэння.

Назва моделі і назва размішчэння разныя. Назва моделі выбірае базовую модель; назва размішчэння — це спецыяльны пазначанне, якое неабходна выкарыстоўваць у вашам коде. Якщо паслаць gpt-4o там, дзе кліент чакае пазначання размішчэння, гэта спрычынае памылкі 404.

3. Клучы і канцэнтры. Выберыце «Ресурс» → «Клучы і канцэнтры». Храніце іх у файле .env, ніколі не ў самым коде:

AZURE_OPENAI_API_KEY=your-key-here
AZURE_OPENAI_ENDPOINT=https://your-resource-name.openai.azure.com/
AZURE_OPENAI_DEPLOYMENT_NAME=your-deployment-name-here
AZURE_OPENAI_API_VERSION=2024-10-21

Негайна дадзіце файл .env у список .gitignore.

4. Інсталюйце SDK-ы

pip install openai python-dotenv azure-identity

5. Базавая функцыя завершэння чату

import os
from dotenv import load_dotenv
from openai import AzureOpenAI

load_dotenv()client = AzureOpenAI(
    api_key=os.getenv("AZURE_OPENAI_API_KEY"),
    azure_endpoint=os.getenv("AZURE_OPENAI_ENDPOINT"),
    api_version=os.getenv("AZURE_OPENAI_API_VERSION"),
)response = client.chat.completions.create(
    model=os.getenv("AZURE_OPENAI_DEPLOYMENT_NAME"),  # deployment name, not model name
    messages=[
        {"role": "system", "content": "You are a helpful assistant."},
        {"role": "user", "content": "Explain RAG agents in simple terms."},
    ],
)print(response.choices[0].message.content)

6. Наступныя естэчныя крокі. Стрымінг, вызыванне функцый, апшукаўка дадзеных у Azure AI Search з можлівасцю выкарыстоўвання саеўых дадзеных, а таксама хостынг у App Service пасля таго, як шлях “hello-world” стане працэсным.

Калькі пункты, на якія трэба зважаць

Несувпадэння регіёнаў — пераканайцеся ў наявнасці модэлю пры стварэнні ресурса
Модэль проты імені развёрткі — коду патрабуецца імя развёрткі
Захаваныя у кодзе секрэты — толькі .env; ніколы не кэмітуйце іх
Змены версіі API — фіксуйце версію і пераглядзіце яе пасля апдэйтаў SDK
Выкарыстоўванне кредытав — стежыце за выкарыстоўваннем токэнаў пад час роботы з цыкламі RAG; включэнне дадзеных і чат таксама спрацоўваюць, нават калі є “бесплатныя” кредыты
Затрымкі у затверджэнні доступу — запрашайце Azure OpenAI якомога раней у хроналагіческай структуре проекта

За дапамою кредытавання і правильнага назвы развяртання Azure OpenAI перестаець выглядаць як заблокаваны корпоратыўны сховішча і стае практычным лабараторыям для эксперыментаванняў з RAG, якіе адпавядаюць способам, якія вже викорыстоўваюць багато компаній.

Спрыяйце першаму успешнаму завершэнню задання як контрольным пункту, а потым негайна працаваць з маленькім цыклам RAG: заванесіце адны PDF у blob або Search, запрашаце тры фрагменты і заставіце алгорытм даўаць адпаведныя адказы, цитуючы іх. Такі парадок швэдзяўска выяўляе проблемы з регіонам, назвамі і правамі быстрэй, чым оптымаўванне інтерфейса чат-бота. Установіце апавешчэнне пра выкорыстоўвання ресурсаў у групе, каб эксперыментальныя процесы не моглі таямна выкарыстаць усе кредыты за ноч.

Усе артыкулы Даслаць брыф