Інжынірынг контэкста для досліднага агента Quant: рэвэлі роўнэў і базы дадзеных.

Адзінкцыя пра тое, чаму агент можа даваць доверлівасць

Уявіце сабе нараджэнне для даследавання, кераванае ШЫ, створанае для канкурсу WorldQuant BRAIN quant. Яшчэ до таго, калі існуюць спецыялізаваныя агенты, перагляды жыцёвага цыклу чы аўтонамныя цыклы, існуе простэйшая проблема дыяграматыкі: якія тэзы сістэма можа спрыяць як правдзівыя? Сыр'е прыходзіць у чатырох формах, якія майжэ не маюць спакойнаў.

Першым элементам являюцца афіцыйная дакументацыя ад платформы і турніру, якая чытальна адказвае на пытанні, як працюе язык выражэнняў, якія аператары і наборы дадзеных ёсць доступныя, а таксама якія настройкі сімуляцыі дазволены. Другім элементам ёсць методалогія. Тры кнігі Маркоса Лопеса дэ Прадо прадаюць інструменты для аналізу статыстыкы бэктэстаў, рызыку стратэгій, множыннага тэставання, структуры портфеля і можлівасцяў фальсыфікацыі, тады як кніга Ігора Тульчынскага «Finding Alphas» прадае інструкцыі па стварэнні ідэй, вырахунку частоты транзакцый, корэляцыі, проблемах перэадаптавання, уперасунку і стойкасці ідэй у практычны спосаб. Трэцім элементам ёсць сукупнасць статэй і нотатак па глыбокім доследжэнні эканамічных анамалій, учаснікаў рынку і прайму інформацыі, якія можна арганізаваць у вачынку, якая з’ѐднае аксіомы, тэорыі, анамаліі, механізмы і способы рэалізацыі. Чатвертым элементам являюцца все тое, што ствараецца праектам падчас яго працы: рэзультаты сімуляцый, крывыя дзейснага і абытковага прыбытку ў дзень, корэляцыі паўноты портфеля, статыстыка стойкасці, перакананні платформы, історыя эксперыментаў, аператыўныя здарэнні, незавершаныя практыкі і урокі, выведзеныя з іх.

Кожны з гэтых элементаў ёсць частка кантэксту, але яны маюць розныя значэнні правды, і ніхто з іх не падходзіць чыста пад адну просьбу, адну фармат адказу чы адну базу дадзеных. Таму праектаванне кантэксту ў такім разе пачынаецца не з лімітавання колькасці токенав, а з разрабоцы рэгламентаў доказаў, а таксама сістэм дадзеных, якія падтрымліваюць кожны з гэтых рэгламентаў.

У левай частцы знаходзіцца проста, наўмовітная першая версія дызайну, у якой правілы, кнігі, статты і сэрвісныя рэзультаты зліваюцца ў адну просьбу, і ўсе яны маюць роўную вагу. У правай частцы кожна тэза застаецца на сваёй гэтай гэлінгавасці: правілы ствараюць „стэні“, перакананні пропануеюць тэсты, а спазірванні скорачаюць перакананні, і нічто ўнутры эйтых „стэнаў“ не можа іх змяніць.

Тры гэлінгавасці доказаў

„Доказ“ разумеецца практычна. Для кожнай тэзы трэба запытацца, які доказ ёсць достатнім, хто несе за ўсё адпаведальнасць і што дазволенае, каб яго спроставіць. Тры слоі адпаведзяюць на гэтыя запытанні.

L1 фіксуе тое, кампаніяю як гэту гру адзначае платформа, на адказ канфігурацыях платформы і турніраў. Калі агенту трэба ведаць, якія настройкі існуюць, што робіць аператар, якія перакананні павінен працаваць кандыдат або як турнір вылічвае свой рэйтынг, самэль тут ён і шукае інфармацыю. Локальная копія можа старэць, але жадны нечаканы эксперымент не можа змяніць правіла.

L2 фіксуе тое, што сістэма на самай працоўцы бачыла. Сюды належаюць выходы сімуляцыі, а таксама ўсё пра дзейнаўкі за дзень, сьёмкі актываў сёгодні, перакананні платформы, аператывныя запускі і найновейшы стан табелі лідэраў. Кожная мерыця супаўнаводзіцца часам, калі яна была зафіксавана. Перзапуск нічога не перазапісвае — ён стварае новую зафіксацыю, таму історыя ніколі не прыводзіцца ў парадак пасля таго, як факты вядомы.

L3 адаптава тое, што сістэма нараз прызнае корыстным. Кнігі, статты, эканамічныя тэорыі, спецыфікацыі, даныя з графаў знанняў, запісаныя урокі і факты, якія можуць спроставіць іншыя даны, знаходзяцца ў гэтым слое. Яны керуюць наступнымі дзеяннямі і застаюцца відкрытымі для пераканання.

Парадакт у гэтым слое няўказаны строга — L1 завжды мае прыорытэт над L2, а L2 — над L3. Кожны слой адпавядае на іншы тып запытанняў. У разе суперчання ў фактах між джэрамі інформацыі перамагае найболей пераканлівы доказ, таму офіцыйная правіла маюць прыорытэт над парафразамі ў запытаннях агента, а рашучая адпаведзь — над тым, чаго могла б спадзявацца людзь на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адваротнае на адв

У гэтай дыяграме адстаўляюцца тры ідэі. Эфект пасля апавешчэння пра рэзультаты дзеяльнасці не быў усунуты ўсунуцелем гэтага эфекта; усунуцель замест таго выявіў тую структуру, якая зламалася, таму ідэя была перабудована на аднойчыну з пераспакоўкамі аналітыкаў, і было прэдставлена два варыянты. Ідэя, базаваная на групавым аналізе, спачатку была простаю верасцю без жадных доказаў, але таксама была прынята. Ідэя, базаваная на календары дывідэнтав, не працавала ні ў якіх з дзесяці варыянтаў структуры, і гэты урок прывёў да таго, што верасць была скарочана толькі да дат дывідэнтав. Зелёныя квадраты праўілі перакрытчыкі платформы, ружовыя — не праўілі, сірыя — не маюць жадных перакрытчыкаў, а квадраты з кольцамі былі прэдставлены.

Адзін база дадзэных можа мець як самыя памеры (L2), так і ўсё, што хтось прачытаў з іх (L3), што значыць, што ранг прыкладзяецца да самага твэрджэння, а не да месца яго зберагачвання. Таму кароткае запіс пра кантэкст ёсць багатшым за звычны тэкст. У яму трэба зафіксаваць самае твэрджэння, яго епістэмічны ранг, выканнік, власніка, дыямэтр дзеяння, час абсарбавання або перагляду, ступень неяснасці, стабільны ідэнтыфікатор і будзь-якія дапаможныя дакументы, якія могу яго парадксаваць. Для фактов, якія зміняюцца з часам, падае на прыцём пара часовых шкал: калі ўсё было правдой і калі сістэма гэта выявіла. API, якія адпавядаюць пазней і дапраўляюць історычныя даны, робяць гэты прыемак значным.

Кантэкст — гэта на самай справе малая платформа дадзэных

Кожны рэсторан адрабатаваецца ў залежнасці ад свайго паведання. Журнал складае доказы у шары, і адной лініяй спадчасці праходзіць праз ўсе іх; старыя запісы згасаюць. Граф — гэта пара таблэц, якія ў памяці ператвараюцца ў мультыграф, а файлы групуюцца за цыклам жыцця. Стабільныя ID з’едынаюць усе эты элементы. Якісць дзейнасці ў дзень все ўсё застаецца на тым месцы, якое, за спецыфікацыямі самага праекту, яму трэба было заняць.

Калі існуюць рэгламенты падтверджэння, стае ясным ўсё больш аднаму моменту: кантэкст — гэта не аднае цэлыя кантэкстуальнае скупшча. Ён практычна дзеяе як невялікая платформа для обработкі дадзэнняў. Найбольшая частка — гэта журнал доследжэнняў, які на пераглядзеўшайся рабочай станцыі ёсць транзакцыйны база дадзэнняў SQLite. Называць яго табеллю эксперыменту — значыць недацець яму належнага значэння, адтаколькі ён выступае як журнал доказаў, які зберагае калькі родоў запісаў. Адны род — гэта намеры доследжэння, тыя-то механізмы, гіпотэзы, прагнозы і лініяеўка іх рэалізацыі. Іншы род — гэта мерыванні, якія зберагаюць адпаведзі платформы, статыстыку зразкаў, перакананні, ўседзённыя показнікі PnL і метрыкі стрэс-тэстаў. Трэці род — гэта інтэрпрэтацыя, якая включае атрыбуцыі, урокі і спецыфічныя фальсіфікаторы. Чатырты род — гэта кераванне, якое фіксуе кандыдатскія рашэнні, затверджэнні і тое, што адбылася пад час адправкі. Пасляпэўная частка — гэта аналіз, які включае дэлты портфеля, экраны корэляцыі, кэш шаблонаў і падсумкі тэстаў на стрэс; усё гэта можа быць перзаснавана на адпаведных вхідных даных.

Праця з аўдытам выявіла несувярэннасць. У докуменце з праекта зазначаецца, што даныя пра ўсходжанне і збыт на дзень былі перакладзеныя ў файлы фармата Parquet, але база дадзенаў усё ўсё зберагае кожную строчку. Документ ўособліваў упэўненне (L3), а база дадзенаў — спостарожэнне (L2), і у разы суперсчытання пераважае спостарожэнне.

Далей ідзе хранальнік аператыўных запісаў, які зберагаецца як самастоятэльная база дадзенаў SQLite. У этых запісах можна мець ідэнтыфікаторы цыклу, пакета, кандыдата, гіпатэзы, агента і процэсу, а таксама JSON-пакет з інформацыяй пра версію. Можна было бы захацецца аб’еднання іх у гэнеральны рэўістар, але тут разлічныя патрабаванія да часу зберагання. Даныя доследжэння ёсць канонічнымі і должны застацца незменнымі. Рэзультаты дыбаггінгу, запуск запісаў, перэходы ў чэргах і тымчасовыя втручання шырока распрастраńяюцца і могу быць стыснутыя або анульваныя. Калі ўтрымваць іх окрэма, сплеск дадзенаў для абзірнасці не зможа збільшыць розмер науковага рэўістара чы прычыніць яго заблокаванне.

Ешчэ існуе граф знанняў — транзакцыйны граф атрыбутаў з простай фізычнай структурой: табелі вузлаў, табелі рэшэтаў і атрыбуты у фармаце JSON, прызначаныя для падтрымкі доказаў, спецыфічных для кожнага тыпу; усе гэта заваносяцца ў граф у памяці для аналізу. Транзакцыйны слой запобегае проблемам з паказаннем і адночасным выкарыстоўваннем масіўных файлаў у фармаце YAML, а фармат у памяці дапамагае лёгка працаваць з графам.

Сістэма файлаў таксама лічыцца як сістэма дадзэнняў. Хранілішча зберагаюць недаступныя для змены дакументы платформы, кнігі, статыі і падготавленыя з іх адчыненняя, і выкарыстоўванне всіх іх у памяці было бы памылкай, таму што ціклы жыцця іх разныя. Дакументы платформы ніколі не зміняюцца. Спецыфікаціі ўтрымваюцца пад кантролем версій як прыорытэты дызайну. Адчыненняя ўтвараюцца на адчыненні іншых дакументаў і для іх падготавлення патрэбны заданыя вхідных дадзэнняў і спосаб іх паўтарнага стварэння. Файлы памяці — гэта короткія, чытальныя паказчыкі на можна-паўтарна выкарыстоўваныя матэрыялы. Файлы чэргі, кэшы і логі — гэта тымчасовыя даны стану працы, а бінарныя файлы модэляў, экспорты PnL і большыя кадры — гэта артыфакты, якія лепш захаваць у сховішчы об’ектаў, а не ў Git.

Гісторыя працоў з адмовамі ўсё паведамляюць. Альфа-алгорытм з высокімі показнікамі практычна быў адхілён, таму што у рэўістары было зазначана, што всі пераказы працавалі правільна, тады калі скрыпт чытаў файл з рэзультатамі, у якім было зазначана значэнне Sharpe 0. Аднаго з першых паводзяючыхся учаснікаў не было жадных запісаў пра рашэннія, пакуль чыразвяршэнне дадзеных за шасць тыдзён не нехало іх. Рашэннё пра ставкі працоўна проты бета-алгорытма існавала толькі ў файле памяці у фармаце Markdown, таму сам рэўістар нічога не зрабіў, каб запобачыць праказу.

У выніку выступае сістэма з мнагацыяўковым кантэкстам, хоця практычна весь яе працуе на аднам лэптопе. SQLite керуе транзакцыямі, граф выражае атрыбуты зв’язкаў, Parquet — планаваны фармат для большых серый часовых дадзеных, Markdown выконвае функцію зберагчыка інформацыі, якую людзі можаць пераглядаць, а тымчасовыя файлы коордынуюць локальныя працэсы.

Ёсць адзін рэальны механізм, у якога адзінаковыя назвы былі адчынены. У левай частцы паказана яго генеалогія ў графе знанняў, а ў правай — кожная гіпотэза, эксперымент і кандыдат, якія яго перапытвалі. Дзеяныя неудачы павтараліся ў кожной версіі, тады як іншыя былі спецыфічныя толькі для аднаго варыянта рэалізацыі. Две часткі не маюць нічага спакульнага, за выняткам ID, які знаходзіцца на ўзламе, і гэты адзіны ключ дастатковы, каб з’едыніць іх у аднаковы пакет кантэксту.

Механізмы выступаюць як зв’язак між двума базамі дадзеных. У графе яны практычна являюцься эканамічнымі ідэямі разам з іх джэрамі, а ў бухгалтэрскім учотніку — як тэгі на кожной гіпотэзе і кандыдаце, якія іх выканалі. Эмпірычныя підсумкі можна прыбліжна прадстаўіць у вачох вузлаў графа для спрыяння навігацыі, але гэтыя ўсьмо толькі відбівы, а база дадзеных эксперымента застаецца там, дзе насправды знаходзяцца цыфры. Таму хорашы пакет кантэксту складаецца паўз’еднаннем разных сістэм. У ём уключаецца невялікая суседзкая частка графа, інформацыя пра джэры, актуальныя эмпірычныя підсумкі, няўдалыя спробы за апошні час і обмежэнні платформы, якія дыяюць. Модэль не патрэбуе цэлага графа чы роўнаў PnL. Корыстным ёст толькі найкорачэйшы шлях доказаў да конкрэтнага рашэння.

Калі граф і рэўістар раздзеляюць аднаковы ID механізма, можна адразу побачыць всю галузь: тэорыю, эксперыменты, кожнага кандыдата, а таксама падсумак на вузле графа, які адпавядае рэўістару. Ідэя автарызаціі выкупу паўтарнага купавання выйшла безпосерэдна з статты 1995 года, але яна ніколі не была прыўязана да галузі паўтарнага купавання акцыяў, таму жадных яе наследкав не можна побачыць у графе.

Варта было бы зробіць кілька дакументаў з дадзенням строгімі. Об’екты, якія пераходзяць між сховішчамі, должны мець чыста вказаную версію схемы JSON. Кожны вырашаны показнік павінен мець назву версіі коду, кадру выхідных дадзенняў і версію методу, які яго створыў. Кожны эксперымент заслуговае на маніфест з адрэсаваным зместам для можлівасці повторэння, у яком перыятуеся версія коду, характэрыстыкі сераўіса, настройкі платформы, а таксама ID гіпотэзы і рэалізацыі. А прырэшэнне несуперэчнасцей павінно перавергацца, як і будзь-яя іншая проблема з яснасцю дадзенняў, а не вважацца чымсь безнебяжным.

Ёсць калі сумаваць падход да дыяграматыкі: граф актуальны ў сваёй супакавцы, рэўістар таксама актуальны ў сваёй супакавцы, а зв’язак межы ямі таксама ўважаецца часткай кантэксту. Што стосуецца гэтага зв’язку, яму патрабуецца тая ж адпаведальнасць у інжынернай працы, як і коду модэлю.

Дзе гэта сустрэчаецца з інжынерыяй канструкцый

Жадны запіт не перадаецца цэлым. Кожны магазін дапамагае стварыць частку пакета з адпаведным тыпам, і кожны спецыяліст отрымае толькі тое, што яму трэба. Рэзультаты праходзяць па тыпу да правільных месца, правілы ніколі не запісваюцца, а два цыклы падтрымліваюць наступны пакет пры разных шваях.

Эта межа пазначае розлік між інжыніерыяю кантэкста і інжыніерыяю канструкцый. Кантроль кантэкста адпавядае за рэгістры L1 да L3: ён зберагае выкананні, памеры, прадукты аналізу, месца падчынення, часовы пазначкі, дыяметр і стабільныя ідэнтыфікаторы. L4, тое ўзьязцо агентав, выбірае, якія доказы трэба атрымаць, скількі можна перавезці за межы параграфа, які спецыяліст яго атрымае і якія выводы ёсць правамі. Пад гэтым знаходзіцца выкананне коду (L5), локальная інфраструктура (L6) і распадзелена інфраструктура (L7). Гэтыя шары будуць бездоганна выкананы нават у разы няправільнага рашэння, але ў яных няма права голасу ў тым, чы быў вхідны даны рэгламентам, спазыраннем чы перакананнем.

Адаптацыя з самага пачатку згладзіла гэты разлік. Галоўны файл з інструкцыямі ператворыўся на вікі з 627 лініямі, якае аб’еднавала правіла турніраў, статус у рэальным часе, методы і урокі пярэдньага дня. Пасля таго, як яго скорачылі да маленькага кэшу, інфармацыя доходзіла да агента праз чатыры шляхі. Короткі шар застаецца завантажаным увесь час. Пакет запуску несе новыя урокі і паведамленні пра апазыры. Правіла, спецыфічныя для певнай зоны, дадаюцца толькі тады, калі задача стосуецца той зоны, а спецыялісты з іхь мемарыямі запрашуюцца толькі тады, калі гэта неабходна.

Адна запрос, працоўнае адстэйкаванне

Разглянемы пытанне «Што трэба спробаваць далей?» Апаратура спачатку стварае пакет падготавчых пераказоў. З L1 яна запоўнюеецца неабходнымі выразамі, настройкамі і абмежэннямі ў оцэнцы. З L2 прыходзяць актуальны портфель, няўзабавныя памеры, вялічына пакрытага прастору пошуку і рэзультаты, якія яшчэ не рашаны. З L3 бераецца найболей значны графічны ветка, тэарэтычныя падставы, фальсіфікаторы з адпаведным дыяпазонам, спецыфікацыі даследжэння і эмпірычныя урокі.

Потым уключаюцца падагенты. Спецыяліст па гіпотэзах на адной з гэтых пакетаў працуе, каб запропанаваць калькі эканамічных падходаў, не маскуючы слабых аргументаў за формуламі. Калі выбіраецца адзін падход, спецыяліст па мадэляванні берае зарэўнаваную гіпотэзу і стварае рэалізацыі, якія справжнім чынам разлічаюцца адзіна ад другога. Спецыяліст па эксперыментах атрымлеў дрэво рэалізацый і меры, накладваныя платформай, а потым фіксуе тое, што вымерваецца.

Кожны ўзлёт мае свою цэль. Раздзел L2 ў журнале прымае первычныя рэзультаты платформы і нормалізаваныя показнікі. Аперацыйныя запісы, такія як пачатак выканання, вызовы інструментаў, пракаты і трафік коордынаціі, зберагаюцца ў храніцы запісаў. Калі рэзультат дае урок або паказывае фальсіфікатор у паводзе, ён фіксуецца ў раздэле L3. Агрэгатаванне графаў адбываецца па аднаковасці з журналом і ніколі не рэдагуецца вручную, тады як вялікія серыі PnL, графікі і адпрацаваныя мадэлі стаюць артыфактамі, на якія паказваюць іншыя запісы.

Оба альфы, якія былі прэдставлены, выйшлі з пакетаў, якія ужо мелі доказы. Одна група раней паспелі паўракцэнаваць портфель, а іншая ідэя перадаўжыла вікорыстоўванне версіі, якая ужо дала несупаўзнаваныя альфы. Ідэя з змянай рэйтынгу таксама отрымала пакет, неперапрацаваны элемент на карце можлівасцяў плюс практычны прыклад для наследавання, але ўсе 18 ўзлётаў, створаных на адной з гэтых ідэй, таксама зазналі нявдачы.

Этапаванне інфраструктуры

Перамешчанне усяго заодно было бы памылкай. Кожны канал пераходзіць у свой момент, а шлях адкрываецца толькі тады, калі існуе вялікі праблэма, якая гэта правяць. На правай стороне паказаны адзіны надзеяны шлях для зберагчэння дадзэнай (commit, outbox, exporter, projection), на адміністрацыю з двума шляхамі, якія ствараюць два суперэфектныя рэшэнні.

Чырвоны локальны стак можа робіць больш, чым здаецца. SQLite — гэта чырвоны выбор для адзінаго дзецернавальніка, ён падтрымлівае справжнія транзакцыі, простыя рэзервныя копіі, шырокія локальныя запыткі і практычна не мае додатковых вітрат. Аднак існуюць проблемы: база дадзэнай па каніках гігабайтаў мае дзесяткі мільйонаў рэядоў часовых серый, калькі працоўнікаў можа конкуруваць за локальныя зберагчэння, колькасць падчас выканання працы продовжвае растаць, артыфакты і кадры фіксуюцца на адной машыне, а для відтворэння рэшэння ў іншым месцы трэба больш скрытых даных, чым хто-небудзь хочаць. П’яты фазы эвалюцыі ўсё ж маюць сэнс.

Фаза 0 спрамована на тое, каб дыяграма паспраўкалася да рэальнасці: трэба або завершыць незаканчаную міграцыю PnL, або свядома ўвярнуць яе, а пасля автаматызаваць аўдыт, які парабялівае дакументацыю з рэальным зберагачам. У фазе 1 важкія файлы пераводзяцца на зберагач об’ектаў, сумяжны з S3: ўлікі PnL, графікі, файлы модэляў, большыя справаздачы і кадры базы дадзеных пераходзяць туды, пры чым улікі PnL дзелююцца на стыснутыя часткі фармата Parquet, падтрымваныя незменнымі маніфестамі, контрольнымі сумамі і правіламі жыццёвага цыклу. У фазе 2 метаданы пераводзяцца толькі тады, калі канкурэнцыя вымагае гэтага. Калі даўні працавальнікі, калькі машыны або саавтары павінны пісаць адночасова, журнал і хранілішча западзеў выкарыстоўваюцца у кераваным PostgreSQL, як аднаэлементныя базы дадзеных або прынеймні як аднаэлементныя схемы з саею політыкай зберагачэння. У фазе 3 дадаецца MLOps як адна з можлівасцэй, але ніколі не як аднакова правдзіва асаблівасць, таму Weights & Biases або MLflow можаць дапамагаць, не заменяючы журнал або граф. Фаза 4 адыякулюе оркестрацыю ад зусцэмнем: даследнікі працуюць у контэйнерах з незменнымі маніфестамі заданняў, тады як канэ ілі двухэтапны механізм распадзяе ідэмпатныя заданняў з параметрамі лізынгу, павторных спроб і тайма-аўтаматав. Фаза 5 даўа болей развітыя аналітычныя можлівасці толькі тады, калі навантажэння на сістэму гэта дазволяе. Фармат табліцы lakehouse, спецыяльная база дадзенаў графаў або платформа для стрымінгу можа згодна прынесці карысць, але толькі тады, калі пачынаюць ствараць проблемы спецыфічныя запыткі, такія як сканаванне мільярдаў запісаў, множыцтво адночасных перамеранняў графаў, эвалюяцыя схемы ў вялікіх калекцыях Parquet або спожыванне запыткаў з нізкім затрымкам.

Нельга прызначыць точны парадак павышэння працэсавой скорасці гэтай архітэктуры, адтолькі як ефект яе ніколі не быў ізольаваны. Яе рэальны вклад — гэта можлівасць для сістэмы чыста суперсцягваць сабе самай. Адна студыя прыпускае тое, сімуляцыя — інша, а фальсіфікатор сузьмляе меркаванні, а правіла турніру застаюцца тымі ж.

Супаўязаныя матэрыялы

• Пяць слоёў агента-харнесу, з кодам, які не можа працаваць без іх — практычны апіс пяці мест, дзе агент-харнес выкананае правілы ў кодзе, ад меж выканання да кантэкстных пайплайнаў, а таксама таго, што можа і не можа падтвердзіць доследжэнне.
• Агенты, якіе самі сабе паспрабоўваюць паспрабаваць: перадача, выбіранне, аднараванне і перакананне — чатырыэтапны дызайн для агентаў, якіе паспрабоўваюць паспрабаваць своія сабе навыкі: зберагчыкаець работны код, удосконалюе апісы, пропануе пераглянутыя паспрабоўкі і пераканае выходны рэзультат пры перадачы.