Галоўная / Артыкулы

Пясочніца для рэкурсіўнай моўнай мадэлі: што вытрымала і што трэба перабудаваць

Урокі выпуску пясочніцы для рэкурсіўнай моўнай мадэлі: узроўні ізаляцыі, брокеры, CDR, межы трасіроўкі ў карыстальніцкай прасторы і аднаго хоста і чаму стрыманасць перамагла.

Выдавец: REACTAPP.TOP6 хв чытання1344 слоў

Крыніцы: What I’d Build Differently: Lessons From Shipping a Recursive Agent to Production

Сістэма рэкуррэнтных мовных модэляў выклікаецца з адной простай інструкцыі: не трэба падаўваць весь запіт модэлю. У замене нехай модэль напісае код, запрацюе гэты код над дадзеннямі, прачытае рэзультат і адначасова вярнёцца да пыткі знайсці наступны крок. Чыябы то не было, ператворэнне гэтай інструкцыі на рабочую платформу захопіла месцы на чытанне коду, на розбіранне кожнага элемента пакуль ён не стаў дастаткова зрозумелым, каб можна было яго поясніць, а пасля — на ацэнку таго, чыі такія поясненні будуць зрозумелыя незнайомцу. Далей прадстаўленае аналіз готавай сістэмы: што перазстало пасля інтэнсіўнага вжыцтва, што змяніцца пад час другой спробы, што выявілася неспадзеваным і куды, як сягледзіць, будзе развівацца гэты патэрн.

Чаму яго поясненне было складнейшае, чым яго стварэнне

Першыя ідэі маюць чыстыя формы. Адна з іх — гэта цэнтральная ідэя рэкурэнтнага цыклу, а іншая — гэта межа довер’я. Далей матэрыял перастае быць адной-едзінай ідэяй. Шаблон брокера, падпісаныя перадачы даных і шары ізоляціі стаюць сумкай інжынерных рашэнняў, якія маюць сэнс толькі разам. Выбіранне таго, калі яго паказваць, а калі залішыць у прымітцы, займало больш часу, чым сама напісанне рэчэнняў. Тыповым было тое, калі на адну частку кодавой базы вітыкалася цэлая дзень, толькі каб з’ясавіць, пра што насправды яна.

Павільны розвіт не быў марным. Роўневыя песчаныя яшчыкі, брокер, які працуе з чатырма прадаўцамі, падпісаныя перадачы даных і канвей для адклікання всіх процэсаў сталі лепшая зрозумелыя завялік таго часу, які быў выданы, нават якшча пасля гэтага графік выглядаў неравнамерна.

Урокі, якія застаюцься

Калькаваныя з прыемаў, выкарыстоўваных у працэсе стварэння, можна застосаваць на будзь-якай падобной платформе агента, незалежна ад сферы яе дзеяння.

  • Праектаваць кожны слой з уважаннем да нападчыка, а не да звычайнага корыстувальніка. Структура, у якой кожны наступны этап прыпускае, што поперадні ужо могў не выйсці, ёсць складной для аналізу і вельмі трудной для працэўніка.
  • Чакаць кілька рэалізацый, прычым прыймаючы абстракцыю. Інтэрфейс посерэдніка, які працуе з чатырма разнымі прадаўцамі за аднаковай логікай, падтвердзіў свою эфектывнасць, тады як інтэрфейс, напісаны толькі для аднаго прадаўцы, ёсць лішэнняю здогадкамі.
  • Спрыяць автантыяцыі агента як бюджэту, які трэба выкарыстоўваць разумна. Дыяхрад, косцы і правыя на адпаведныя дзеянні павінны маты чыста вялічыну, вызначаную тым, што трэба адмахнуцца, і нічога большага.
  • Валіць відныя аргументы пра непразрычную хыткасць. Сістэма, якая паказвае, чаму яна выбраўае перагляд наступнага элемента, лёгча дыбагаваць, лёгча даверляць і лёгча поясніць новым людзям.
    • Першая версія должна чыста адказваць пра свае меры. Работа на аднам хосце, аналіз у пространстве карыстальніка і абсэнцыя спакульнай дакументацыі пра абязары ў разы ў першай версіі ўзяцься толькі тады, калі гэтыя меры будуць прызначаны як такія, а не будуць адкрывацца пасля запуску ў рэальных умовах.

    Што завадзіла

    Дзеяныя часткі сістэмы справды падпадаюць пад парадокс «гатовыя да рэальнай эксплуатацыі».

    • Основны цыкл стварэння коду, яго выканання, аналіз рэзультата і выбір наступнага крока перажыў усе віпробаванні, якія былі на яго спрамованы.
    • Трыярусная сістэма ізоляцыі, якая працуе ад засенавання іменных прастораў праз gVisor да абсалютна далёкіх сэндбоксаў, ніколі не прыпускала прахожджэння нічога, што яна мяла зупініць.
    • Шаблон брокера — гэта такі ад абстракцыі, які можна абсолютна разумець толькі пасля таго, як яго будзе рэалізавана чатыры разы для чатырох абсалютна разных прадаўцоў і пасля таго, як будзе стварана можлівасць запуска тых самых двадцатых радкоў логікі без змян для кожнага з іх.
  • Працэс раззбіркі і перабудовы кантэнту быў найбольшам захопленым элементам. Гэта быў тыя элемент, якія найлегвае моглі па-таямнічы пахыліць, але ў всіх пераблакаваных фарматах файлаў гэта ніколі не выйшла.

Нічога з гэтага не выйшла з явных ідэй. Гэта выйшла з падазрання з самага пачатку, што калі-небудзь хтось спробуе зламаць сістэму, і кожны слой быў спраектаваны на адпаведнасць гэтаму падазранню, а не на нормальны ход працы.

Што змяніцца пад час другога стварэння

Аналіз, які перыядуе толькі успехі, — цэлае шоу успехаў, таму праследы трэба апісваць простаю мовай.

Аналіз толькі з прастору карыстальніка

Аналіз вызваў сістэмных функцыяў у працэсе аналізу выбуху выкананы ўсяго ў пространстве карыстальніка за дапамогою strace. эта справжняя прыганек, а не стылістычны выбар. Дастаткова складны прыклад можа з’явіць, што яго такім спосабам аналізуюць, і змяніць свою дзеяльнасць, або скорастацься з перыядамі часу, якіх не было б у механізмах на рэверсі ядра. Перабудова практыкы адбудзецца за дапамогою eBPF або адпоўнага аналога на рэверсі ядра пад пространствам карыстальніка, а не заместа яго, адколі шар пространства карыстальніка все ўсё застаецца эфектываў проты прыкладаў, якія не намагаюцца супакраць свою дзеяльнасць.

Няма званічных даных пра аблікі

Сістэма не мае звязку з зовнішнім інтэлектам па аб’яктah загроз. Кожны вынік аналізу прыкладу мае структурны характэр: такі патэрн вызова сістэмных функцыйяў падобны ін’екцыі процэсаў, тая частка мае незвычную энтропію. Нічыга з гэтага не залежыць ад таго, чыі точны хэш файлу быў відзначаны і класыфікаваны ў іншым месцы. Што да гэтага прынтара, яго трэба закрыць якомога раней, адтакуе ўсё тое, што дапамагае людскім аналітыкам, зовсім не ўключае розумнага падбору патэранаў — гэта проста перадвыпадак зустрэчы з абдзецьнай той самай сітуацыяй.

Толькі адна машына

Кожны сэндбокс, кожная дэтанацыя і кожны ланцуг рэкурсыўных вызоў коордынуецца з адной машыны, без планавання між машынамі і без кластэрування. Гэта быў справядлівы выбар для сістэмы, створанай адной людзью за адно лета, але неправы выбар для рэальнага обсягу работы. Распраўжанае коордынацыя не ўжо проста додатковая функцыя, якую можна дадаць пазней. Гэта аднаецца да адной збытковай архітэктуры, якая дадаецца насупраць первачанай, і прыставляць гэта як дадатак было бы найменш адказным ставленнем. Планаванне работы між машынамі, вярнэнне пасля знікнення вузла пад час дэтанацыі і падтрымкі адпаведнасці падпісанаг стану між хостамі — гэта ўсе новыя проблемы, якіх няма ў дызайне з аднім процэсам.

Неспадзянака: абмежэнні працоўнае спроможнасць

Адынако выявілася, што глыбокі інжынерныя проблемы знову і знову стосуюцца кантролю. Практычна кожна складная рашынка выражалася ў тым, каб не дазволіць чыму-небудзь робіць больш, чым трэба:

  • скарыпт, які дэактывае толькі самы ўпадзяжны вузел,
  • захоўнік дыячоўскага дзеяння, які не павінен плутаць назву файлу з доменам,
  • рэкурзіўная дэкомпозіцыя, якая не павінна выкорыстоўваць бюджэт, якога ёй не трэба.

Спачатку спадзяваліся, што вызов будзе ў тым, каб зробіць агента дастатнька спроможным. У практыцы ж вызовам стала неабходнасць зробіць яго дастатнька спроможным, адночасна расшыруючы яго толькі настолькі, насколькі ён здобыў довер'я на кожны окрэмы крок.

Менша нечаканасць стосавалася таго, на шта рэагавалі чытальнікі. Гэта ніколі не быў найхітрэйшы код. Гэта былі тые моменты, калі была відна логіка, калі можна было побачыць, як сістэма выбірае, што пераглянуць далей, а не проста праходзіць па спісе задач. Гэта падтрымвае перакананне, якое стаўало ўсё моцнейшым працюючы над праектам: ценнасць агентнай сістэмы рэдка калі крыўдзіцца самым механізам, а радыя, якія додаюцца да яго, і радыя значна сложнейшыя да опісу, чым архітэктура.

Куды працуе гэты патэрн

Рэкурзівныя агенты, якія выкарыстоўваюць інструменты і прыменяюць логіку да свайго власнага выканання, не выглядаюць як тымчасовая мода. Яны больш супамінаны з стандартным фарматам, да якога будзе прыходзіць большасць серйозных агентных рашэнняў, адколі іншы падход — стварэнне спецыяльных фіксаваных працэсаў за кожнай новай катэгорыі проблем — не можа вытрымаць тэндэнцыю розмаўтання рэальных задач.

Тэмы, якія прывернулі найбольшую увагу, а саме межы довер’я, кантроль, адкрыцце і кантроль віток, не ўжо ўскладненні безпекі. Яны вялікія ролю граюць у тым, чы гэты прыем будзе вжывацца. Рабочы, надзеяны і інодзе дужа незвычайны сістэма, пабудаваная на ідэі не запрашваць усю інфармацыю ў мадэль, ёсць разумны пункт завершэння і разумны пункт пачатку наступнага праекта.