Дарожная карта AI-інжынера на 2026 год: ад Python да агентаў і LLMOps

Чаму большасць плана развіцці AI здаюцца застарэлымі

„Як стаць інжынерам AI?“ — гэты вопыт постае як у новачкаў, так і у працуючых распрацоўшчыкаў, якія хочуць перэйсці на пасады, зв’язаныя з AI. Існуе множнацьце PDF-файлов з планамі развіцці, і багатыя з іх былі напісаны ўчора, калі людзі ўсё ўсё толькі пачыналі говорыць пра агентаў, MCP і інжынерыю кантэксту. Сэродзёння нават адносна новыя спецыялісты апэківаюцца, што знаюць чагосць пра RAG, што ускладнюе выбір пачатковага направлення. Дажы апытныя распрацоўшчыкі патыраюцься, адколі кожны наступны этап павінен дапраўляцца да таго, што яны вядома знаюць з практыкі працы і праектавання сістэм.

Гэтая частка являецца сэрыём фаз, а не практычным планам. Тэмы агрупаваны разам з рэсурсамі і праектамі, тады прыступаючый можа следаваць за ўсім з самага пачатку, а апытны інжынер можа выкарыстоўваць іх, каб заполніць прасоўкі або падняць свой рэван. Большая частка контэнту пра план развіцця ШЫ ў інтэрнэце — гэта план машыннага навчання 2019 года з роздзелам пра LLM, які застаўся на канцы. Гэта можа падыходзіць прыступаючым, але апытнам інжынерам патрэбна большая інфармацыя.

Назва гэтай працы сур’ёзна змянілася за толькі два гады. Да 2026 года ад інжынера ШЫ чакаецца, што ён будзе выканаць задачы, якія раней не ўходзілі да складу яго абавязакаў, і якія людзі, якія вэсць у галузі, вядома вядомы.

Чы гэта мае прычыніць страх, што ШЫ захопіць тэхнічныя працы? Не тады, калі людзі будуць продовжваць развівацца разам з ягою.

Два гады тыму не існавала жадна вакансія пад назвайю «інжынерыя праймтав», алі паглядзіце, сколькі зараз адносуецца да яе ролей. Кожны, хто плануе праспяць месцы на вівучэнне гэтай тэмы, заслуговае на план дзеяння, які відображае тое, каго сёння шукаюць команды, а не застарэлыя методы.

Фаза 1: Пайтон і асновы інжынерыі

Не старайцеся застаўляць інструменты. Спачатку выкладзіце асновы інжынерыі. Тыя, хто ужо впэўнена паводліваецца з Пайтонам, могу праходзіць да Гіта, віртуальных сэраў і адлучэння бягаў.

Што стосуецца Python для AI, то самэйшыя ўрокі пачынаюцца тут. Месцы працы з туторыяламі даюць значна меншыя навыкі, чым практыка ўхвалення коду, а яснае мышлэнне прыходзіць тады, калі вы практыкуеце структуры дадзэнняў і алгорытмы, пішохі іх. Таму стаўцеся майстрамі простага Python або іншага языка, які вам паспадабляецца. C++ можа падыяць для выучэння DSA, калі гэта для вас простае, але пазней вам, верагатна, знадобіцца перайсці на Python. Майстэрнае володзенне Python не дазволяе бібліятэкам, спецыялізаваным для AI, стаць для вас чужым языкам.

Звыкніце да гэтага:

• структуры дадзэнняў, такія як лісты, дыкшнарыі і множыны
• функцыі і класы
• компрэхензіі лістоў і дыкшнарыяў
• генератары і дэкоратары, якія з’являюцца паўсюду ў фрэймворках AI

Для навчальных матэрыялаў падойдзяць як вступны курс у універсітэце, такі як CS50 Python ад Гарварда, так і трывалы курс для пачатківаўцаў. Паспеўце выбраць як можна менш часу і проста пачніце з аднаго з іх. Калі вы вучыцеся базе, перайдзіце да задач DSA на платформе для практыкі, такой як LeetCode.

А ўсё тое, што стосуецца самага языка:

• Сераўніны: venv, pip і ўсе чышчэй uv. Іх ігнораванне прыносіць гады спрабаў рашыць проблемы з залежнасцямі.
• Git і GitHub: галузі, зберэжэнні, запрошэнні да змін і рашэнне конфліктавання падчысленняў. Не трэба нічога запамяцваць, таму што ўжыццё ў практыцы ператварае гэта на прычынку.
• Файлы і даны: JSON, CSV і звычны тэкст, таму што большасць рэальных дадзенняў выглядае такім задоўга прытаму, як не стануць апрацаванымі табламі.
• Тэрмінал: базавы bash, перыявленне між каталогамі і аб’еднаванне каманд.
• Дыягнастыка: прачытайце паведамленне пра адзінак прытым, прытым як падаеце яго ў чат-бот, і выкорыстоўвайце інструменты вашага рэдагара, такія як точкі абрыву ў VS Code. Заявы пры выдрукаванні застаюцца справжнім спасеннем.

Адной з пасткі, у якую падпадаюць багато пачатківцав, ёст тое, што яны спачатку працуюць з відэоурокамі, пакуль ўсё не стане зрозумелым. Усё не стане зрозумелым проста ад перагляду; ўсё стане зрозумелым праз прабавы, выправленні і павтарэнне процэса.

Адно з выкліканых вышэй звязанае з сайтом з ідэямі праектаў для пачатківцав у Python. Хорашым першым праектам можа быць ўсё простае — калькулятор BMI, Судоку або гра «так-так-ні», а пасля таго — праект з рэальнымі дадзеннямі аб рэальной проблемай, напрыклад:

• інструмент у команднай лініі, які запоўнюе дадзеныя з публічнага API, чыстыць іх і зберагае ў структураваны файл
• скрыпт, які аналізуе вашы власныі файлы у фармаце CSV з выкладкамі банку аб распадам віткоў і сортавае іх па катэгорыях

інструмент для збору даных плюс прыстрой для ўпрацоўкі дадзеных для набора дадзеных, які вас лячыць

Рэзультат не ўсё. Адчуванне успеху крыўцяцца ў працаванні з няпрыемнымі проблемамі: зламанымі запісамі, багамі тыпу «одна елемента занадта», а таксама API, якое зменшвае фармат адпаведзі даўжчынай выканання скрыпту.

Фаза 2: Матэматыка, інструменты для дадзеных і першыя мадэлі

Якую бы матэматыку ні розглядалі на гэтай фазе, спробавайце ўтэлізаваць яе ў кодзе. Так вы з’ясуеце, якія бібліятэкі вам патрэбны і калі.

Людзі боюцца матэматыкі ў штучнай нейроннай сетцы больш, чым трэба. Для пачатку не патрэбна вся лінейная алгебра, а толькі невялікая, конкрэтная частка, і яе завжды можна расшырыць пазней.

Лінейная алгебра

• вектары, матрыцы і тэнзоры, а таксама геаметрычны значэнне ўмножэння на іх
• скалярныя добуткі, умножэння матрыц і сяброўскія значэнні, якія знаходзяць прымененне ў механізмах адзіркі і эмбедынгах

Курсы з ілюстраціямі і візуальным матэрыялам дапамагаюць тым, хто любіць вучыцца такім спосабам.

Калькулус

Большасць людзей вучылася гэтам у школе, таму наведзеныя ніжэй тэмы ў основным чыннікі ёсць повторэннем.

• пракалькулус, дэферэнцыйны, інтэгральны калькулус і калькулус з колькімая зменнымі
• парадоксы, у тым лічыба паняванне градыента

Прыметыка і статыстыка

• распады, сярэднее значэнне і дывергэнцыя, а таксама умовная прыметыка
• гэта мова, якой пішуцца выходы модэляў, парадоксы нявярнасці і паметкі ацэнкі

Оптымізацыя

• спуск па градыенце, шчыткі навучэння і функцыі збытку, механізм, які з часам ператварае нявярнае на менш нявярнае

Не перавантажвайце ся і не заходзіце занадта глыбока. Рашэнне судоку, а пасля прыменэнне прыметыкі да іх, — гэта адны з спосабоў, якім нялюбовь да матэматыкі можа ператварыцца ў захопленне.

На выкладзеўцы вышэй паказана, дзе кожны элемент матэматыкі становіцца неабходным.

Інструменты для работы з данымі

• Выучыце Pandas і NumPy для маніпуляцыі данымі і ўзлёгкавання ўзлёгкавання аналізу.
• Выберыце бібліятэку для візуалізацыі, такую як Matplotlib або Seaborn, і пачніце з Matplotlib, адколькі ён простэйшы.

Хорашая візуалізацыя расшырвае спосаб вашага мышлення пра даныя і дапамагае расказваць історыі з іх адказом, таму шукайце рэсурсы, якія добра яе вучыць.

Практыка: стварыце лінейную рэгрэсію з нуля

З усіх пунктав гэтага плану саме гэта задачэ дае найбольшыя рэзультаты, але яго часта прыхіляюць, таму што ён здаецца занадта базовым. Не паддаюцеся на гэта.

import numpy as np
class LinearRegressionScratch:
    def __init__(self, learning_rate=0.01, n_iterations=1000):
        self.learning_rate = learning_rate
        self.n_iterations = n_iterations
        self.weights = None
        self.bias = None
    def fit(self, X, y):
        n_samples, n_features = X.shape
        self.weights = np.zeros(n_features)
        self.bias = 0
        for _ in range(self.n_iterations):
            y_pred = np.dot(X, self.weights) + self.bias
            # Gradients
            dw = (1 / n_samples) * np.dot(X.T, (y_pred - y))
            db = (1 / n_samples) * np.sum(y_pred - y)
            # Update
            self.weights -= self.learning_rate * dw
            self.bias -= self.learning_rate * db
    def predict(self, X):
        return np.dot(X, self.weights) + self.bias

Калі клас выконваецца і дае прыказы, запускайце sklearn.linear_model.LinearRegression на аднаковых даных і парабяльвайце рэзультаты. Калі два падходы будуць прыблізна аднаковыя, вы на власныя вочы пазнаеце, што відбываецца ў кожным модэлі, які вы будзеце вікорыстоўваць пасля. Створыце прычыну пераімплементаваць алгорытм, які стоіць за кожной тэхнікай, яку вы зустрэнеце. Бібліятэкі спрыяюць спрошчэнню працы, але алгорытмы і матэматыка, якія стояць за німі, таксама заслуговаюць на увагу.

Фаза 3: Класычныя методы машыннага навчання

Выучыце класычныя методы перш чым прыбліжвацца да нейронных сетак, таму што вельмі вялікі чысла рэальных задач машыннага навчання яшчэ лепшая і дышэўная адмахваюцца імі, чым за дапамогою глыбокага навчання. Мета — зрозумець, чаму выбіраецца адна тэхніка замест другой і як яна рашае задачу.

Ключовыя тэмы

• Навчанне пад наглядам: рэгрэсія, класыфікацыя, дрэвы рашыння, адзінаковыя лесы і методы падвышэння качання з XGBoost або LightGBM.
• Навчанне без нагляду: кластэруванне з k-means і зменшэнне выразнасці з PCA.
• Ацэнка модэля: раздзелэнне на трэнінговыя і тэстовыя дадзеныя, крос-валідацыя, тачнасць, запамятовальнасць, паракамеры F1 і ROC-AUC, а таксама ведаўка, якія паказнікі маюць значэнне для конкрэтнай бізнес-задачы.
• Інжынерыя атрыбутаў — навык, які адразняе хорашы модэль ад сярэдні.
• Вольнае володзенне бібліятэкай scikit-learn, укладаючы пайплайны, прадзеянне дадзенняў і выбір модэля.

Інтэрактыўны курс для пачаткуючых добра раскрывае асновы, а дэльнейшы курс у стыле Udemy дае болей глыбокія знанні, калі хочаце. Будзе падходзіць будзь-які рэсурс, які охопляе концэпцыі ранэйшых этапаў.

Праект у портфеле 1: прагнозаванне пакінання кліентаў

Практычна ўсе выпрацоўваюць гэты праект, і ў гэтам ёсць прычыны: ён практычна практыкуе рэалістычны цыкл жыцця неупорадкованых таблічных дадзеных, класаў з неравнамерным распадам, інжынерыю характэрыстыкаў, а таксама порэванаў і ацэнку модэляў, якія адносяцца да бізнесу. У гэтым кантэксце хыбна негатыўная дыягноза означае, што кліент адстаў.

Сільная версія включае:

• чыстае поясненне пра тое, чаму была выбрана адпаведная метрыка ацэнкі, адколькі тачнасць практычна завжды ўсунутая адпаведнасць для аналізу пакінуць кліентаў
• жоўткі два модэля, якія адбываюцца ў порэванаў, а не проста „XGBoost, таму што ён популярны“
• можлівасць пояснення, выкарыстоўваючы значэнні SHAP, матрыцу плутання або значэнні характэрыстыкаў, такім чынам прычыны прыказаў модэля можна падтрымаць

Праект портфеля 2: сістэма рэкамендацый

Мысленне на адміністрацыю сэроднечы ёсць урокам гэтага праекта, і тэхнікі embeddings і RAG будуць апільвацца да яго знова і знова. Створыце просты рэкамендэр на адміністрацыю контэнту або калібрування за саавершэнням для фільмаў, кніг або продуктав. Зрозумейце, што айтэмы стаюць вектарамі і што відстань межы ямі можа быць вымерана, адколі 5-я фаза зноў прыносіць тую ж самую ідэю.

Пасля завершэння гэтых двух заданняў варта працаваць над іншымі ідэямі праектаў.

Фаза 4: Глыбокая навучэнне

Тут вы дазнаецеся, чыі глыбокая навучэнне падходзіць вам. Большасць самоучоў і інжынераў-працавнікаў альбо захопляюцца гэтым напамінам на гэтым этапе, альбо адхоюцца пасля выучэння базы. Прабавце яго ўсерйоз, перш чым прыміце рашэнне.

Ключовыя тэмы

• Асновы нейронных сетак: шары, функцыі актывацыі і працэсы праходжэння сігналу наперад і назад.
• Дынаміка навчання: перэнавчэнне, рэгулярызацыя, dropout і батч-нормалізацыя.
• Оптымізаторы: SGD і Adam, і чаму выбор мае значэнне на практыцы.
• GPUs: прымкніце да тэорыі і выучыце столькі, сколькі трэба, каб разумеце, чаму апарат нагрэваецца, калі запускаецца мадэль з мільярдаў параметраў.

Ігровы, візуальны стыль навчання можа дапамогчы запам’ятаць матэрыял, таму шукайце курс з такым падходам.

PyTorch чыра TensorFlow?

Пачатківцы постаўляюць гэты вопыт пастоянна, і краткая адказ — PyTorch. Ён зараз ёсць стандартам у народзеннях, сярод большасці сучасных адкрытых модэляў, а таксама ў большай частцы працы з тэхналогіямі ШЫ у прымэтнай сфэрэ у 2026 годзе. TensorFlow застаецца популярным, галоўная меры — у певных корпаратыўных сэрвісах і на мобільных прыстроях за дапамогою TensorFlow Lite, але тыя, хто мусіць выбраць толькі адну платформу, должны глыбака вучыцца PyTorch. Модэлі Hugging Face, фрэймворкі для агентаў і большасць коду з народзенняў, які вы чыталі, базуюцца на ям.

NLP, камп’ютарная візыя і трансформеры

У всіх трох віпадках неабходны базовыя навыкі:

• Основы NLP: токенізацыя, імбеддынг і модэлі последоўнасцей.
• Основы камп’ютарной візыі: CNN, прадзеянае апрацоўкі зображэння і трансфер-навучэнне.
• Архітэктура трансформера: атэнцыя і сама-атэнцыя, а таксама прычыны, чырвонаму гэты конкрэтны дызайн ёсць падставай для існавання ўсіх сучасных LLM.

Я даскледна разумею, як працюе атэнцыя ў трансфармеры, таму што ўсё ў 5-й фазе знаходзіцца на яе аднойчыні. Дыяграма ніжэй, взятая з дыскусіі на Kaggle, паказвае адны з спосабоў яе адобразыць.

Праект у портфеле 3: аналіз настрою

Доцягніце тонкай налады ўжо падготавленага трансфармера на наборы дадзеных для класыфікацыі настрою. Варыянт BERT з скорачанымі параметрамі — гарны, недорогі пункт выйска. Шырокі праект у мініяту вучыць усій сучасны працэс тонкай налады: завантажыце падготавленую модэль, правільна токенаізаваце дадзеныя, даскледна наладзіце яе і ацэніце рэзультаты, што ўзмацнівае той самы працэс, які выконваюць команды з вырабоцтва ў большых масштабах.

Праект у портфеле 4: прыстрой для перапісву зустрэчаў

Створыце цэлы канал працы з аудыям у вхід, транскрыпцыяй у выхід і статыстыкай у выхід. Ён спаўнаеяе пераклад словаў у тэкст, дзе Whisper ўсунуто сільны выбар, з крокам стварэння статыстыкі за дапамогою LLM. Гэта стае першым практычным прыкладам іспользовання AI, а не проста модэлем, і ўсё ж гэта інструмент, які можна і надалей вікорыстоўваць.

Фаза 5: інжынер AI

Усё, што было зроблена да гэтага моменту, спрыялае падготовцы да гэтай фазы, і самэўсюды тут і адбываецца практычная інжынерыя AI. Людзі, якія готуюцца да ролей у сферэ ML, пабачыць, што ўсё ў ўсіх іх шляхахах змініцца тут, адколі пакульшыя фазы ёсць спаканскімі як для спецыялістаў у сферэ AI і ML, так і для новачакоў і апытных распрацоўшчыкаў.

Інжынерыя кантэксту

Інжыніерыя кантэксту — гэта наступнік інжыніерыі запроса для 2026 года. Інжыніер запроса спытаецца, якія словы трэба падаць у запрос. Інжыніер кантэксту спытаецца, які цэлы набор інфармацыі патрэбен модэлю ў яго вікні, каб ён належна выканаў задачу — чы то адзержаныя дакументы, рэзультаты працы інструментаў, історыя кантактаў, інструкцыі сістэмы чы памяць, — і як структураваць і прыорытэтаваць усё гэта. Корача, гэта мышлэнне ў тэрмінах сістэм.

Канцэпты-основы:

• выбіранне таго, што належыць у кантэкст, і таго, што ўтварае шум, які зніжае яснасць сігналу
• структураванне кантэксту праз аранжаванне, фарматаванне і стысненне, каб модэль могла яго належна выкарыстоўваць
• распадзел кантэнту ў вікні кантэксту, адтолькі ўсё ж токены не ёсць безгранічныя, і падставленне усяго на всякі случай часта пагаршае рэзультаты

Структураваныя выходныя даны, тыя бачыць, адказы LLM у пазначанай спэктры, такой як JSON або Pydantic, а не тэкст у вольнай форме, што робіць прыкладнікі болей надзеянымі і прыемнейшымі для інтэграцыі пасляэтапна.

Retrieval-augmented generation (RAG)

RAG — гэта тэхніка, якая дазволяе LLM адказваць на запытанні на аднойчы не трэнаваных дадзежах.

• Чанкаванне: проста фіксаваная заўжынка чанкаў проты семантычнага чанкавання, і чаму выбор тычыцься да якосці адзысквання інформацыі.
• Эмбедынгі і базы дадзэння вектараў: як тэкст ператвараецца ў вектар, і інструменты такія як Pinecone, Weaviate, Chroma або pgvector для ўтрымвання і пошуку іх.
• Адзыскванне: пошук падобнасці, гібрыдны пошук, які спалучае падбіранне за ключоўымі словамі і семантычнае падбіранне, і пераранжаванне.
• Тэхнікі: перапісва запітаў з метай паспрабоўкі паспрабаваць павысіць якасць запытання корыстувальніка пры яго адшукуванні, агентны RAG, дзе агенты плануюць і адшукаюць інфармацыю ітэратыўна, а таксама Graph RAG, які выкарыстоўвае графы знанняў для фіксаціі зв’язкаў між ентытамі.
• Ацэнка: вымеры якасці адшукування інфармацыі, а таксама рывня галюцынацый, а не толькі пераканання ў тым, што фінальная адпаведзь ёсць правільной; для гэтага выкарыстоўваюцься такія показнікі, як тачнасць і вярнасць у кантэксце.

Варта праслухаць спецыяльны курс па RAG, а пасля — матэрыялы пра стратэгіі ўжыцця RAG. Цікавым праектам можа быць вікорыстанне RAG для аналізу вашых персональных юмарналів.

Протакол кантэкста модэля (MCP)

MCP дае прыкладным програмам на базе LLM аднаковы стандартны спосаб прыўязкі да зовнішніх інструментаў і дадзенняў, таму командам не трэба пісаць індывідуальныі інтэграцыйны код для кожнага інструмента, які вікорыстоўвае агент. Калі ChatGPT або Claude запішвае інфармацыю ў Canva, Notion або іншы зовнішні інструмент, часта самэй MCP выконвае гэтыя задачы.

• Зразумець мадэль кліента і сервера MCP.
• З’ўязаць існуючы сервер MCP з агентам, які вы створылі.
• Стварыць мінімальны спецыяльны сервер MCP для інструмента, у якога яго ўсё шчэ няма.

Агенты AI

Агент — цэлая сістэма, у якой LLM аналізуе мету, выбірае інструмент, дзеяе, назірае за рэзультатам і павтарае гэты працэс, у працоўнасці замест таго, каб даць адну статычную адпаведзь, як у чатбота.

• Цыкл аналізу: планаванне, дзеянне, назіранне і павтарэнне, з вікорыстаннем патэранаў у стылі ReAct.
• Вікорыстанне інструментаў і вызывы функцый: як мадэль выбірае, калі і што вызваць.
• Памяць, якая дзеліцца на кашточную, якая існуе пры ўсёй сесіі, і давгастраўную, якая зберагаецца між сесіямі.
• Механізмы захоплення, якія не дазволяюць агенту рабіць шкодзіцельныя, дорогія або некарэктныя дзеянні.

Перш чым адоптаваць такія фрэймворкі, як LangChain чыста LangGraph, напісціце прынеймней аднаго агента безпасова на базе сырых вызоў API. Такое падходжэнне паказвае, калі фрэймворк выконвае задачы за вас, у працоўнае замест таго, каб застаўся толькі яго API. Канцэпцыі маюцы вышэйшую значымасць чым фрэймворкі, але таксама корыстна рассмотрзець сучасныя варыянты, такія як OpenAI Agents SDK, LangGraph, CrewAI, Google ADK, Agno, AutoGen і Smolagents, і пазнакаць, як кожны з іх падходзіць да стварэння сістэм агентаў для практычнага вжытку.

Сістэмы з калькамі агентаў

Сістэма з калькамі агентаў дзеліць складную задачу між калькамі спецыялізаваных агентаў, якія коордынуюць сваю работу. Однакі агент сталкваецца з мерыямі пад час выканання складных, багатаэтапных задач, таму што яго кантэкст перавантажваецца, а агент-універсаліст, які робіць усё, зазвычай пасягае на сэрэдзіну ў большасці задач. Спецыялісты з вузкім спектрам задач, якія маюць свой саўны кантэкст, зазвычай параджаюць, так сама як і людзі, якія спецыялізуюцца.

Шаблоны, якія варта ведаць:

• Оркестратор-рабочы, дзе аднам агентам дастае падзеі для спецыялізаваных рабочых.
• Парадныя пайплайны, дзе выходны даныя аднаго агента стаюць вхіднымі для наступнага.
• Дыялог або крытыка, дзе выходны даныя аднаго агента пераглядаюцься і крытыкуюцца іншым прычым, перш чым стануць остаточнымі.

Ацэнка AI

Ацэнка, можна сказаць, і ўсё тое, што адзеляе дэмаверсію ад сістэмы для практычнага вжытку, і на ёй не можна недастаткова акцэнтуваць.

• Перад запускам створыце тэстовы набор рэпрэзентатыўных вхідных дадзеных.
• З’явіце, што значыць „хораша“ рэзультатна праця для конкрэтнага задачы — чы то правільнасць, адпаведнасць да выкарыстоўваных джэрэл, тон або час адпаведзі.
• Ўжывайце патэрны LLM-як-суддзі, калі людская пераглядка не ўзмогу, адночасна розумеючы уперадзе існуючыя у такім падходзе уперакосы.

Анаізіруйце і сачыце за рэгрэсіямі ў промптах, RAG і алгорытміх потоках агентаў за дапамогою такіх інструментоў, як DeepEval, Promptfoo, LangSmith, Ragas чыст Arize Phoenix.

Сачыце за рэгрэсіямі з часам, калі зміняюцца промпты, мадэлі чыст логіка адзысквання інфармацыі.

Хорашы навучальны матэрыял уключае такія паказнікі, як рэлевантнасць, тачнасць, запамятованасць, ROUGE і BLEU, а таксама методы ацэнкі, інструменты і фрэймворкі.

LLMOps

Калі сістэмы AI стануць прымененнямі ў працэсе вырабоцтва, LLMOps стае ўсё важлівейшым. Ён уключае версіяванне промптаў, маршрутызацыю модэляў, трэйсінг і можлівасць адзірвання, монітарынг віток, кэшаванне і стэжыння за эксперыментамі — усё гэта спрамавана на стварэнне надзеяных, масштабавальных сістэм.

Размешчэнне прымененняў AI

Основы размешчэння, якія варта знаты:

• API-і: абгорніце модэль чыст агента ў FastAPI чыст адпоўнайна адпоўнайна схожым інструментам.
• Контэйнеры: Docker — дастатнька інформацыі, каб зразумець, чаму ён існуе і як яго выкарыстоўваць.
• Аналіз і выдаванне: vLLM для высокая пропускная способносць выдавання LLM, а LiteLLM — для направлення запросаў да калькольніках прабавачаў праз адну інтарфейс.
• Хмара: розмістыце ўсё на аднам месцы у тым прабавачы, які вам вядомы лепша.
• Манітарынг і вітраты: кожны токен коштае грошаў, таму у прыменні неабходна можлівасць сочыць за затрымкамі і вартасцю, што ўжо часта ўважаецца важлівым навыкам для працодавцаў.
• Базы CI/CD для автаматызацыі працэсаў розмішчэння.

Пашырэныя памылкі пачатківаўцоў

• Пераход заўсёды да LLM і агентаў, пры чым прыхоўдзіцца фаз 1-3.
• Разгляданне фрэймворкаў, такіх як LangChain, як чагось, што трэба выучыць сама по сабе, а не як слоёў, пабудоўаных на концэпціях, якія трэба спачатку зрозумець.
• Збіранне туторыяў уместо стварэння праектаў. Адгледванне — гэта не робка, і самэ гэта ёсць ўсё, чым большасць людзей тыха застаёцца на месцы.
• Адзыякаванне заставіць на пазнейшы час. Створыце канал адзыякавання як частку праекта, каб кожныя маленькія змяны паказвалі, чы рэзультаты сталі лепшымі чы горшымі.

Короткая версія

Становіцеся інжынерамі AI не значыць трэба володзець кожным новым інструментам. Моцныя фундаментальныя знанні, якія прыменяюцца стабільна, маюць большое значэнне.

Для тых, хто хочаць маць справаку па частцы працы, якая касаецца Claude Code, спіс зместу ніжэй паказвае, як адны дзялёгі падрабнік дзеліць сваія роздзелы на практычныя тэмы, такія як агенты, RAG, серверы MCP і адзыякаванне.