Не кожнай AI-задачы патрэбна найбуйнейшая мадэль: праектаванне з улікам рэсурсаў

Адзін сістэма борьбы з махінаціямі, чатыры разныя задачы

Паглядзіце, з чым павінна справляцца адзінная сістэма выкрычання махінацій. Назву домэна можа знадобіцца перапрацаваць у співвароце з вядомай інформацыяй пра аб’якты загрозы. Рахунок-фактуру можа знадобіцца парабеліць з усталянымі дакументамі або падробіцямі аплатаў прадавца. Неясны электронны ліст трэба тлумачыць на кантэкст, а маніпульаваны аудыя- чыста відэа-матэрыялы можу заставіць знадобіцца значна сложнейшы аналітычны модэль. Усе гэта зарахоўваецца да працы па абэрэжэнню, але з тэхнічной точкі зору гэта не адныя і тыя ж проблемы.

Тым не менш, сучасныя сістэмы ШЫ пропануяць прыемны шлях абракадабры: направляць усё да большага універсальнага модэля, які ёсць, і дазволіць яму прымкнуць рашэнне. Гэта, без сумневу, проста. Але гэта таксама можа быць непатрэбна дорога, медленна, загрожаючая прыватнасці, важкая для кантролю чы проста не падходзячая для задачы. Хутчэй «большы» мае на увазе найсільнейшы чы наймоцнейшы універсальны модэль, які ёсць, а не проста той, у якога больш параметраў.

Тады практычны вопыс дыяграматыкі зменяецца. Узамест таго, каб спытацца, які ў наявнасці самы моцны модэль, трэба спытацца, які ўсё ж такі наіменш складны механізм, які задовольняе трэбаванні да якосці і рызыку задання. Інодзе цэў сільны загальны модэль. Інодзе — меншы спецыялізаваны. А інодзе правы модэль — гэта ўзагалі жаданы модэль.

Бенчмаркі проты працы ў рэальных умовах

Бенчмаркі паказваюць, калі модэль можа выконваць. Архітэктура працы ў рэальных умовах должна рашаць іншы вопыс: што саме павінен вікорыстоўваць сістэма. Якосць — тое ўсьмо, што ўскладнюе рашэнне. Рэальныя сістэмы таксама сталквуюцца з цілямі па затрымкам, лімітамі вычысленняў, правіламі прыватнасці, обмежанымі рэсурсамі, умовамі сеткі, цілямі надзеямоўнасці і додатковымі вітратамі на адчынэнне.

Мадэль, якая паводзіць лідэрам у тэстах на перацэйскія якосці, можа быць няпрыемна для адзінаковага заведама. Калі точны, дэтэрміністычны апэліяцыя вірашаяць пытанне, дадзенне дапамогі розумовых спромэжнасцей практычна нічога не дае. Калі даныя трэба заставаць на месцы, іх адправка да удалённага сервісу змінюе сітуацыю з прыватнасцю і безпекай. А калі бізнес-процэс павінен адпаводзіць за певны час, выбор не можа базавацца толькі на якосці модэлі.

Одны з способаў адказа на гэта: адпаведны механізм спалучае достатню якосць, прыемлімы рызык і прыемлімы эксплуатацыйны косц. Гэта не значыць выбіранне самага дышэчага варыянта, адколі дышэчы механізм, які не выканае задачу, не ўсунецца. Гэта значыць, што дадзенныя дапамогі трэба плаціць за іх дапамогу.

Што паказвае даследжэнне маршрутызацыі

Гэта ідэя стае ўсё бол помітнай у даследжэннях з мадэляй для маршрутацыі. Уместо таго, каб прыпускаць, што кожны запіт направляецца да адной прэміум-мадэлі, даследнікі створылі сістэмы, якія выбіраюць мадэль на адной з аснов запіту і неабходных парадактов якосці.

У стацыі FrugalGPT, напісанай Чэнам, Захарыя і Зоу (2024), былі адначытаны каскадныя схемы з вікорыстанням разных мовных модэляў. Актыўнае ўжыцце ўсіх іх дазволіла значна зменшыць вартасць апрацоўкі запытов, захаваўшы паставлены парадакты якосці; у дзеярых тэставаных умовах эканомія склалася 98%. RouteLLM (Онг і іншыя, 2025) пайшоў даўжэй, навучыўшыся выбіраць, калі запыт трэба направіць да моцнейшай чы рыхлейшай мадэлі. На своіх публічных тэстах ён зафіксав эканомію, якая перавышала удвое, без якога-лібо падышча якосці у пораўнанні з базовым варыянтом.

Этыя цыфры не ўтвараюць гарантыяў па вырабоце. Яны залежаць ад модэляў, крэтычных пунктав, структуры цэнаў і методаў маршрутацыі ў кожным эксперыменце. Аднак архітэктурны прынцып застаецца актуальным: максымальная спроможнасць не павінна быць стандартным робочым станом.

Спецыялісты, правілы і точныя порэвананні

Складанне модэляў — гэта не толькі выбір між двума універсальнымі LLM-амі. Калі задача ўзначальваецца чыста, спецыялізацыя іноды можа заменіць сабою простае большые розмеры. Pecher, Srba і Bielikova (2025) парабілі малыя спецыялізаваныя модэлі проты вялікіх універсальных у восьмі задачах класыфікацыі тэкстаў, і пры досыць невялікай колькасці пазначаных дадзэнняў домэна малыя модэлі дасяглі роўнасці або перагналі вялікія ў дзеякіх спецыфічных задачах.

Адзінакова меры існуе. Компактны класыфікатор, навучаны для аднаго цялі, не можа заменіць ся моцным загальным модэлем, калі задача выклікае шырокі аналіз, незнайомыя сітуацыі, інтэрпрэтацыя между разнымі фарматамі даных або знанні, якіх няма ў яго навучальных даных. Аднак простыя, паўтараючыяся задачы зміняюць сітуацыю: калі сістэма паўтарае адну чыста апісаную операцыю, яй можа не знадобіцца розвіваць шырокія спроможнасці, якіх яна ніколі не вікорыстоўвае. Доследжэнні ў галузі маршрутацыі таксі таксама рухаюцца ў гэтым напрамку. BEST-Route (Ding і іншыя, 2025) не толькі вопытае, які модэль павінен обрабацаваць запіт, але і скількі вычысленняў пад час тэставання запіт заслуговае.

Аднойчыны ідэя простая. Разныя завантажэння належаць да разных рэгіонаў спроможнасця, і архітэктура становіць ся корыстной, калі яна можа ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо

Перакантраванне, чы рахунак перасілае заданы порог

Тэставанне, чы домэн можа належаць да кэшаванага набора

З’ясаванне, чы ў структураваным запісе не хачуцца неабходныя полья

Ні адна з гэтых задач не ўласна ёсць семантычной. Адправка точнага порэвання праз мадэль мовы ператварае дэтэрміністычную задачу на верагатывістычную, дадае дапамогу для выважвання і стварае ўсё больш спосабаў для парадку. Гэта адна з прычын, чаму праекты, якія спалучаюць дэтэрміністычныя і навучаныя механізмы, выглядаюць пераканальней, чым включэнне ШЫ ў кожны компанент. Нейросімболічныя падходы ў кібербезяйнасці таксама вядуць у гэтым напрамку: навучаныя часткі спрыяюць распазнаванню патэранаў, тады як сімболічныя або правіламі-аснованыя часткі дадаюць чыстыя механізмы выважвання і кантролю (Bizzarri і іншыя, 2025).

Звычайна, правілы не ўсюды ёсць крашчымі. Яны стаюць нестабільнымі, калі мова ўскладнена, калі змінюецца поведынка, калі зловмеснікі вікорыстоўваюць парафразы, якіх ніхто не прыгадаў, або калі сістэма павінна генералізаваць за межы таго, што планавалі ўсі ўчаснікі праекту. Асалоджаная разліка не ў правілаах проты ШЫ, а ў тым, чы рэальна потрэба ў выводах на аднойчынных даных. Калі умову можна сформулюваць абоўсюды точна, дэтэрміністычная логіка ёсць выдатным інжынерным рашэннем. Калі важлівы значэнне, неяснасць чы генералізацыя, тады мадэлі, выучаныя на даных, займаюць свае месца. Зрэлая архітэктура можа эфектыва працаваць з обомі падходамі.

Тая ж дысцыпліна для сістэм з калькольнікамі

Сістэмы з калькольнікамі таксама заслуговаюць на аднаковы аналіз. Калі каманда пагадаецца, што адзін вялікі мадэль не павінен карбавацца пра все, лёгка адмаціцься і разбіць усё на калькольнікі, таму што так выглядае болей сложна. Колькісць калькольнікаў нельга выкорыстоўваць як прабачэнне. Дызайн з калькольнікамі мае сэнс тады, калі адпаведальнасці дзейсна розлічныя: разныя экспертызы, інструменты, правыя абмежэнні чыста джэрэла дадзэнняў, або праца, якая можа практычна выконвацца паралельна. Shen і іншыя (2024) даследавалі дызайн з калькольнікамі на базе калькольнікаў большых мов, пры яком разлічваліся планаванне, вызыванне інструментаў і стварэнне падсумку, і практычны прыбытак быў атрыбутам самэй такой функцыйнае розбівкі.

Дадзенне дапаможных агентаў таксама прыносіць дапамогі з коордынацыі. Wang і іншыя (2024) даследавалі мнагаагентныя дыялогі па задачам разумавання і выявілі, што яны не завжды перамагаюць сільныя базовыя мадэлі з аднім агентам, што падмаўляе думку, што аднаўленне кантакту між мадэлямі апошнія автаматычна павышае якасць разумавання. Топалогія таксама мае значэнне. Li і іншыя (2024) паказалі, што спосаб, якім агенты вяршаюць кантакт, вплывае як на ўжыткі, так і на вычысловыя затраты.

Наступная правіла дыяграматыка заклячаецца ў тым, што агенты должны спецыялізавацца, калі таго выкалічвае обсяг работы. Калі калькі агенты чытаюць практычна той самы кантэкст, вяршаюць тыя самыя задачы і адмахваюць последовальныя варыяцыі таго самага разумавання, то такая архітэктура, верагодна, проста збільшае зайвыя вітраты. Аднам агентам з добра спраектаванымі інструментамі можа быць лепшым рашэннем.

Дзе ведуцыся вычыслы

Выбір механізма — гэта толькі палова частка проблемы, адколі ён таксама павінен працаваць дзе-небудзь. Местныя прыстроі, інфраструктура на перыму роўні і платформы воблака кожныя маюць сваія перавагі і абмежэнні, і доследжэнняў у галі саўместнага аналізу дадзэнняў спробавалі распадзіць вычыслення між імі замест таго, каб прыпускаць, што вантаж работы належыць выключна аднаму месцу (Zhou et al., 2019; Ren et al., 2023).

Нічага тут не працюе ў всіх случаях. Работа на месцовым апаратазе не ўсегда ўскорвае працэс, адтолькі ўстройства канцэнтры можу быць слабымі, тады як налаштаваныя хмарныя сервісы выканаюць задачу быстрэй. Работа ў воблаку таксама не ўсегда ёсць крашчай, адтолькі затрымкі сеткі, пропускная здатнасць, чутлівасць дадзейнаў або патрабаванні да часу працы могу змяніць сітуацыю. Прыхоўнечнасць ўскладненая, і не можна проста сказаць, што «месцова = прыхоўнечная». Зберагчы неапрануты вхідны дадзень на прыстрое, можна зменшыць колькасць перадаваемых дадзейнаў, але проміжныя фарматы, створаныя пад час роздзеленага або саўместнага аналізу, все равно можу абавясніць чутлівыя дэталі. Хіггінс і іншыя (2025) даследжваюць рызыкі рэканструкціі і аналізу ў сцэнарыях роздзеленага навчання.

Таму выбор месца рэалізацыі — гэта рашэнне сістэмнага характэру, а не праграмаўка на адну тэхналогію. Пытанне не ў тым, месцовае гэта чы хмарнае, а ў тым, якае сераўыснае сэрца адпаведна падтрымвае трыбуты завароткі работы.

Даследжэнне прыкладу захавання ад мошчанні

Гэтая прыблема стала болейш абсалютной падчас праектавання архітэктуры кібербезпекі, якая мяла на меце розгляд захадоў прытварання ад шахрайства для малых і сяродніх падпрыемстваў. Запытанне пра тое, які модэль ШЫ павінна выкрываць шахрайства, ніколі не было правым падходам. Гэтая концэпцыя аб’еднавала вельмі разныя завадзі: шырокі тэхнічны аналіз, структуравана паравана фінансавых дакументаў, сэмантычная інтэрпрэтацыя, аналіз анамалій і, можа, нават болей складныя форэнзічныя даследжэння. Рассматрэванне іх як адной вычыслювальной прыблемы не мяло б жаднага сэнсу.

Рэзультатам стала запраектаваная трывярная гібрыдная архітэктура на базе калькуляцыйных агентаў, аранжаваная па адны ў адны зростаючай глыбіне аналізу. Тут важна адзіна разліка: трывярны дызайн — гэта цэльвая архітэктура, тады як болей вузкая концэпцыя, створаная для заключнага праекту, падтверджвае толькі частку яе. Яна не паказвае, што кожны з запраектаваных элементаў існуе або ўжо быў перакананы ў сваій эфектывнасці.

Слой 0: фільтрацыя і сортаванне

Першы слой — гэта недорогія і шырокая частка працы. Запраектаваныя завады включаюць нормалізацыю, пераконтроль падаўшага і домэна, сігналы аутантыкацыі, тэсты на прыналежнасць да кэшаванага фільтра Блума, аналіз метададаў прыкрэпленых файлаў і дэтэрміністычныя паказнікі фінансавага рызыку. Большая частка гэтых завад не ўключае вікорыстоўвання ШЫ, як і было запланавана. Фільтр Блума — гэта шырокая верыятносная структура для выявлення прыналежнасці, а не класыфікатор шахрайства; паазітны рэзультат означае толькі, што элемент можа быць у наборэ, таму ўсё рав трэба падтверджэнне. Іншыя дэтэрміністычныя паказнікі таксама ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўжо ўж

Другій шар служыць для кантролювання процэсу выканання задач. У цэльным дызайне LangGraph керуе станам, вузламі, умовным маршрутызаваннем і праймамі доказаў. Невялікі мовны мадэль можа, за выборам, дапамагаць у обмежанай семантычнай інтэрпрэтэцыі або у формулюванні тэкстаў для корыстувачаў, але ён не прызначаны для прыняцця рашэнняў па маршрутызаванні, ступеню сур’ёзнасці чы аб дзеяннях з вялікім уплывам.

Гэта важліва, таму што вікорыстоўванне мовнага модэля ўнутрь сістэмы не выклікае патрэбы даўаць яму кантроль над самай сістэмай. Шар оркестрацыі можа обмежыць месца, дзе працуюць мадэлі, якія доказы яны бачаць і якія наступныя дзеяння ў ўплыве. Ён таксама можа аддзеліць аналіз ад адказаў: спачатку стварыць структураваныя доказы, а пасля пераклаць падтрыманыя вынікі на чытальны язык.

Шар 2: спецыялізаваныя аналітычныя агенты

Трэцій шар абараняе глыбэйшую аналізацыю. Цэльны дызайн раздзеляе аналіз тэксту і рахунку-фактуры, выяўленне анамалій і вычыслова навантажаная аналіза аудыя чыста візуальных дадзенняў. Гэтыя функцыі не патрабуюць обавязкова аднаго і таго ж модэлю, доступу да дадзенняў чыста выконавачага сераўісу. Самэльга тут і становіцься корыстным ідэя мнагаагентнага падходу — не як тверджэнне, што больш агентаў значыць большы інтэлект, а як спосаб прыказаўкі сапраўдна разных аналітычных задач.

Інтэрэснае — не колькісна структура з трохо шароў, а ідэя, яку яны абрабоцваюць: вычысловая моць должна быць прапорцыйная проблеме, якая рашаецца.

Што паказала пераканальная дэманстрацыя

Адаптаваны прыклад падтверджэння концэпцыі быў спецыяльна прымітны. У ям былі выкарыстаны сінтэтычныя сцэнарыя атакі на электронную пошту прадавца і перакіравання рахункоў-фактур, а таксама дэтэрміністычны LangGraph StateGraph. Рабочы працэс зберагаў цэнтрызаваны стан, следаваў чыткім шляхам маршрутызацыі, выкарыстоўваў структураваныя паказнікі рызыку з тэксту і рахункоў-фактур, дэтэрміністычна агрэгаваў ступень сур’ёзнасці і ствараў паведамленні, апараныя доказамі. Ён пакрываў сумнівны сцэнарый, безпечны базовы сцэнарый і контролюемы шлях выклікання бяды, пры чым выкарыстоўваліся аўтаматызаваныя тэсты і локальная експанацыя.

Застаўліліся калькі: цэлы працэс працы на рэвэрсе Layer 0, жывая інтэграцыя з Microsoft 365 або Google Workspace, OCR у працэвыканні, федэраванае навчанне, выяўленне локальных анамалій на аднойчыні на аднойчыні, вырачэнні на основе конфідэнцыйных вычыслаў для медыя, а таксама выяўленне глыбокіх падрабочых аудыя чы ў відэа. Меркаванне масштабамі мае значэнне. Доказ концэпцыя паказвае, што такі працэс ўзможны. Але ён нічога не дазваляе сказаць пра тачнасць у працэвыканні, масштабаванні чы прынадзіце цэлага трывярнага дызайну.

Аднак адзін важны урок быў падтверджаны. У такім працэсе жаданая мовная мадэль не павінна кераваць кожнай рашэннем. Спачатку прыходзіць доказ у структураваны фармат, яго ацэнюе чыткая логіка, а толькі пасля чаго ён перапісываецца як паведамленне, якое людзі можаць зрозумець. Раздзелэнне здатнасці да логічных выводам і адпаведных прав на кераванне ў працэсе ўзялося ў тыя найкорыстнейшыя архітэктурныя выводы.

Складнасць мае свой кашт

Гетэрагенная архітэктура не ўзлёгкая:

• Будзь-які роутэры могу выбраць неправі маршрут.
• Каскадныя сіткі можу дадзіць затрымку пры пераходзе на дорогія модэлі, якія на самай справе былі неабяжнае.
• Нясколькі модэлей значыць большую колькасць аналіза, хоставання і каліткавання версій.
• Дызайны з калькамі агентаў прыносяць дапамогі з карысцю паведамленняў і коордынацыі.
• Компаненты, якія працуюць поблізу корыстніка, трэба доставляць, прадаўаць і сочыць за імі на разных канцэнтрах.
• Разпадзел дадзеных расшыроўвае плошчу для прычын безбеднасці, слепых пунктав і абыектаў.

Існуе серьзёзны аргумент проты: іноды адзін сільны модэль яўляецца самым простым і найкрашчым рашэннем. Калі ён задовольняе неабходныя паказнікі якосьці, затрымкі, прыватнасці, надзеямоўнасці і вартасці, дадаць маршрутызаторы, спецыяльныя модэлі або дадатковыя агенты можа стварыць большую операцыйную складнасць, чым гэта цяжкае. Гэта не суперчыць прынцыпу увагі да рэсурсаў. Гэта ўжо ў складзе гэтага прынцыпа, адколі складнасць таксама павінна маты свае практычныя практыкі.

Мета не ў тым, каб зменшыць масштаб модэляў, максымізаваць колькасць агентоў або пераносіць вычыслення на перыметр толькі таму, што перыметральныя вычыслення ўважаюцца цікавымі. Мета — у тым, каб ухіліцца ад выплаты грошаў, затрымак, рызыка для прыватнасці або інжынерных зусіль за можнасці, якія не ўпражненне не патрабуе.

Пачніце з упражнення

Перш чым выбраць модэль, лепшая задаць серыю простыях пытанняў:

• Чы могае точная правіла, параваненне або пошук выконаць задачу? Калі так, можа ўзагалі не будзе патрэбна інферэнція.
• Чы праца настолькі спецыфічная і паўтараючаяся, каб было праведна выкарыстоўваць спецыяліста?
• Чы ёй сапраўды трэба семантычнае разумеўне або шырокая гэнералізацыя?
• Дзе можна обрабляць даныя без наракшчання лімітаванняў па затрымкам, безпецы чы прыватнасці?
• Што будзе, калі выбраны механізм будзе некарэктны, і чы можа рабочы працэс безпечна пераходзіць на іншы статус?
• Якшо розглядаецца калькі агентаў, чы у яных ёсць адзінаковыя абавязкі, інструменты чы даны, чы проста адна праца дзеліцца на часткі таму, што так выглядае болей прыгожа?

Толькі пасля таго, як на гэтыя запытанні будуць даны адпаведныя адказы, выбіранне модэлю становіцца значымым. Цэў перакручвае звычайную практыку, калі спачатку выбіраецца самы вражаючы модэль, а пасля шукаюць для яго задачы. Пачніце з обсягу работы і дазвольце ўсім яе лімітам правільна выбраць механізм.

Большыя універсальныя мадэлі застаюцца выдаюшчыміся інструментамі, і дызайн, які врачоўвае рэсурсы, не ўсуненне іх. Гэта заклекція выкарыстоўваць ўсі ўжо ўсё ўмеласці мадэляў там, дзе гэта дае рэзультат. Дэтэрміністычныя операцыі павінны застацца дэтэрміністычнымі, калі гэтага дасыць. Спецыялізаваныя мадэлі павінны магчымаць спецыялізацыю. Сільнейшая універсальная мадэль павінна рашаць тыя задачы, якім дасканальна патрэбныя яе аналітычныя можлівасці. А сістэма з калькольнікамі павінна існаваць толькі тады, калі для рэальнай спецыялізаціі гэта неабходна. Адною фразай: выкарыстоўваць простэйшы механізм, які адпаведна задовольняе трэбаванні да якосці і рызыку завадбы.

Калі сільнейшая мадэль перастае быць прызначаным канцэнтрам, вылупляецца ўжо адна пытанне: як сістэма павінна выбіраць, куды падае кожная завадба? Гэта пытанне маршрутызацыі, распадзел вычыслювальных рэсурсаў па рангам па завадбам, ёсць наступным логічным пытаннем.

Упамінаныя даследжэнні

• Chen, Zaharia і Zou (2024): FrugalGPT – аплявацыя мовных модэляў для зніжэння віток
• Ong і іншыя (2025): RouteLLM – навучэнне выбору маршруту між модэлямі на аднойчынных дадзенах прыямоўкі
• Ding і іншыя (2025): BEST-Route – адаптатыўны маршрутызацыя з выкарыстоўваннем вычысленняў у час тэставання
• Pecher, Srba і Bielikova (2025): малыя спецыялізаваныя модэлі проты вялікіх загальных модэляў для класыфікаціі тэкста
• Bizzarri і іншыя (2025): аптака нейросімболічных AI-сістэм для выкрычання атак на сеткі
• Shen і іншыя (2024): мульты-LLM-агент для навучэння інструментаў
• Wang і іншыя (2024): чы гэта павышае спроможнасць LLM да рассудкавання праз мульты-агентскія дыскусіі
• Li і іншыя (2024): рэдкая топалогія кантактаў у мульты-агентскіх дыбатах
• Zhou і іншыя (2019) і Ren і іншыя (2023): аптакі пра інтэлект на краю сеткі і саўместную інферэнцію DNN

Хіггінс і іншыя (2025): методы розучэння з адзынкаваннем дадзэнняў, якія захоўваюць прыватнасць проты агрэсіўных спроб аналізу

Супаўзвязаныя матэрыялы

• Практычныя заўважэнні: 21 шаблон дызайну агентоў, пасвячаны простама — Паследовы апіс працы з матэрыялам «Практычныя заўважэнні: 21 шаблон дызайну агентоў, пасвячаны простама», укладкі з контрактамі, перакананнямі і готовым кодам для команд, якія вікорыстоўваюць гэтыя шаблоны.
• Памяць AI-агента — гэта не база дадзэнняў: што трэба зберагчы, выкарыстоўваць і забыць — Чаму памяць агента ёсць проблемай рэлевантнасці: як разлічаюцца кантэкст, памяць, стан і тэхналогія RAG, што трэба зберагчы, як адначасова выкарыстоўваць, контролаваць і аўдытаваць, і чаму забыванне ёсць важлівай характэрыстыкай.