Галоўная / Артыкулы / Практычныя прытамулкі: Навучанне на адпрыемку з дасвядзеў: Пошукаваемая далекатэчная памяць для дадзеных

Практычныя прытамулкі: Навучанне на адпрыемку з дасвядзеў: Пошукаваемая далекатэчная памяць для дадзеных

Практычныя прыказкі: Учыцца на дазнаннях: пошукаваемая дзейныя память для дадзэнняў: кантракты, перакрыццяі і слоты для коду для команд, якія выкарыстоўваюць гэты патэрн.

2187 слоў

Існавайце гэта як перапрацоўку ідэй з артыкула «Навчанне на досвядзе: пошуковая далекатэчная памяць для агентаў інжынеріі дадзенаў» для працавальнікаў-оператараў: чыстыя этапы, аранжаваныя блакі для коду і прыметкі з восстанавлення, якія застаюцца пасля перадачы заданняў. Этап Апглэву лепш працюе, калі яго розглядаць як мерыябельную паверхню. Запісайце адна ідеальная транскрыпцыю, адзін прыклад неудачы і прыметкі з вярнення да пачатковага стану прычым расшырэнню масштаба. Запісвайце часы выканення і кост токенаў або запытаў праза функцыйнае рэзультат. Відкрытыя данні пра косцы з’являюцца рана, таму не будзе неспакою, калі праця перайдзе з дэмаверсіі ў спакульнаныя сераўысы.

Проблема амнэзіі

Для стадзіі проблемы амнэзіі неабяжна ўскладніць вхідныя даны, адпаведальную особу за кожны крок і крэтыяры завершэння пры перадзеіснавленні коду. Аператары должны магчымаць перзапуск крока з вядомай точкі контролю, не падозрываючы схованы стан. Конфігурацыю трэба залічыць пазначкай ад коду прыемліка. Файлы сераўнавання, сховішчы секрэтных дадзеных і флагі функцый крануцца на аднай пазначцы, якую аператары можаць пераглядаць, не чытаяўшы весь ланцуг задач. Пры выконанні операцый, якія купуюць грошы або зменяюць даны у працэйнай сістэме, неабяжна ўключыць людзкія празгляды. Прыўязка на час компілявання не є гарантыяй полнай адпаведнасці з бізнес-трэбованнямі.

Што значыць пошукальная памяць для агентаў

Для стадіі «Што значыць пошук у памяці» неабходна адначасовая дэфініцыя вхідных даных, адпаведальнага за крок і крэтарыяў выходу пры перадзеіснаванні коду. Аператары должны магчымае запускаваць крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Неабходна адначасовая документацыя як «шчаслівага» шляху, так і шляху вярнення. Перапрыбуткі, людзкія перакрыцця і обработка некоректных паведамленняў є часткай продукту, а не яго пазнейшага дапрацоўвання. Неабходна людзкая аправарэнне для тых крокоў, якія выкарыстоўваюць грошы або зменяюць даны праўдзівай роботы. Працэс складання коду не є гарантіяй полнай адпаведнасці продукту бізнес-трэбованням.

Двухроўнавы модэль памяці

Для стадіі дварабочага модэлю памяці неабходна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункту контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выканаецца, прычына неудачы должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Калі наступны крок — гэта код чыя-небудзь вызов інструмента, лепш выбіраць структураваныя выходныя даны з перакананнем схэмы, чым вольныя тэкстовыя апісанні. Для стадіі дварабочага модэлю памяці неабходна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункту контролю, не спрабоўваючы здагадвацца пра схованы стан. Запісвайце час выканання, а таксу токеноў чы распытак прылегла да функцыйнаых рэзультаатаў. Відразувыя даны пра вартасць запобегаюць неспакойным рахункам, калі процес пераходзіць з дэмавайнага режыма ў спяльныя среды.

Рэгламент 1: Кантролюемая памяць

Кал працуеце на стадзіі Рэгламент 1 «Кантролюемая памяць», спачатку запісайце угоду: неабяжлівыя даны, сигнал успеху і тое, што выканаецца у разы частковага нявыпалення. Такі список пераканаецца зберагчы чыстасць пазнейшых змян у кодзе. Зберагчы канфігурацыю парадульна ад коду прыемліка. Файлы сераўнавання, хранальнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаюць адбавляць аудыт без неабяжлівага чытання всей структуры. Стварайце контрольныя пункты пасля дорогіх крокаў. Функцыя вярнення працы не должна занова ставіць плату за той самы вызыв LLM, калі аператар перапрыяўляе роботу да пазнейшага вузла.

Рэгламент 2: Памяць, якую можна шукаць

Калі працуеце з стадзіяй памяці, яка можа быць адстукаемая, у рангу 2, спачатку запісайце контракт: неабяжлівыя даны, сигнал успеху і тое, што выканаецца пад частым неудачам. Такі список пераконтроўкі дапамагае заліцвачыць змяны ў кодзе па правдзе. Документавайце як шлях успеху, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў ёсць часткай продукту, а не пасляднім дапрацоўкам. Зробіце пераконтроль пасля дорогіх крокаў. Система вярнення працы не должна занова ставіць плату за той самы вызов LLM, калі аператар перапрыбуе пазнейшы вузел.

Система з калькам агентам, якой была патрэбна памяць

Калі працуеце над стадзіяй «Система з калькольнікае агентаў», спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выходзіць у разе частковага абякання. Такі список контроля дапамагае залічваць пазнейшыя змены ў кодзе чыста і прозрачна. Валіце маленькія, тэставаныя елементы замест вялікіх скрыптав. Калі якісь крок абякае, абяканне павінна вказваць на адную адпаведальнасць, а не на заплутаны ланцюг задач. Зрабіце контрольную пазнаку пасля дорогіх крокаў. Програма не павінна зноў выклікаць той самы калл LLM, калі аператар прабуе зноў запрацаваць пазнейшы вузел. Калі працуеце над стадзіяй «Система з калькольнікае агентаў», спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выходзіць у разе частковага абякання. Такі список контроля дапамагае залічваць пазнейшыя змены ў кодзе чыста і прозрачна. Запісвайце час выканання і кост токенав або запытаў праза функцыйнае рэзультат. Відкрытыя даны пра косцы з’являюцца раніце і запобегаюць неспакойным счыткам, калі працэс пераходзіць з дэмавайнага режыма ў спакульнаныя сераўы.

Проектаванне памяці для системы з кальколярамі

Проектаванне памяці для адзінаго этапа работае наўжоўшы, калі яго спрыяваць як вимерную паверхню. Запісаўце адзін ідеальны прыклад, адзін кейс неудачы і прыметку па вярнэнню да пачатковага стану прычым расшырэнню масштаба. Зберагаўце настройкі праза код аплікацыі. Файлы сяродавішча, хранільнікі секрэтных дадзеных і флагі функций павінны знаходзіцца ў адном месцы, куды аператары можаць адбавляць без неабяжнага чытання всіх дадзеных. Зберагаўце стан графа ў простам і типаваным формате. Вкладзеныя блокі маскуюць інфармацыю пра тое, який вузел запісаў які поле, і спакоююць працэс пасля перарываў.

1. Автаматычны запіс

1-й этап аўтаматычнага захавання працюе наякша, калі яго розглядаць як вимерную паверхню. Захавайце адна «золатая» версія дакумента, адин прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Дакументавайце як шлях успеху, так і шлях вярнэння да нормальнага стану разам. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў є часткай продукту, а не чымсь, што дадаецца пазней. Храніце стан графаў у простам і типаваным формате. Вкладаныя структуры маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакоююць працу пасля перарываў.

2. Доступ у межах сферы

Этап 2 з апэксамі Scoped работае наяўней, калі яго спрыяваць як мерыемую паверхню. Зберагачыце адна ідеальная транскрыпція, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням дзеяння. Валіце маленькія, тэставаныя элементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг дзеяння. Рэжым графа павінен быць простым і з адзіным типам дадзеных. Вярнутыя структуры дадзеных маскуюць інфармацыю пра тое, який вузел запісаў канкрэтны поле, і спакшуюць продажчыку працю пасля перерываў. Этап 2 з апэксамі Scoped работае наяўней, калі яго спрыяваць як мерыемую паверхню. Зберагачыце адна ідеальная транскрыпція, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням дзеяння. Запісвайце часы выканання і косты токеноў або запытак праза функцыйнае рэзультат. Відкрытыя данні пра косты з самага пачатку запобегаюць неспакойным рахункам, калі процес пераходзіць з дэмаверсіі ў спяльныя сераўысы.

3. Дзеннікі, спецыяльныя для паводзакоў

Для стадіі 3, прызначанай для конкрэтных ролей, пярэд змены коду неабходна ясная ваказка пра вхідныя даны, адпаведнага адпаведальнага і крэтарыя выходу з ціі стадіі. Аператары должны магчымаць перзапуск ціі стадіі з вядомага пункта контролю, не прыпускаючы нявідомага стану. Конфігурацыю трэба захаваць пазнаходзіцца за межамы коду прыкладнення. Файлы сяродавішча, хранальнікі секрэтных данных і флагі функцый належаць у аднам месца, якое аператары можаць пераглядаць, не чытаяўшы весь ланцуг задач. Пры роботе з елементамі, якія витрачаюць грошы або зменяюць даны ў працэсе, неабходна людзка апраўда. Прыяеднанне элементаў у час компілявання не є гарантыяй полнай адпаведнасці з бізнес-трэбованнямі.

4. Адзыявленне на рэвэле контексту

Для стадіі адаптавання на рэгламентнай гэтым разам узначыце вхідныя данні, адпаведальнага за крок і крэтыяры завершэння пры перадзеіснаванні коду. Аператары должны магчымаць перзапуск крока з вядомай точкі контролю, не падозрываючы схованы стан. Запісуйце адночасна шлях успеху і шлях вярнення. Перапрыбуткі, людзкія перакрыцці і обробка некоректных паведамленняў ёсць часткай продукту, а не пасляднім дапрацоўкам. Заставьце людзкую апраўду на тых кроках, дзе выконваюцца грошовыя расходы або змінююцыся данні праўдзівай роботы. Працэс кампілявання не ўзроўнаважваецца з полным адпрацоўкам бізнес-функцый.

Адклёпка шара памяці з MemPalace

Для стадіі рэалізацыі шара памяці неабходна ўжо на пачатку, перш чым зменяць код, апрацаваць параметры вхідных дадзеных, абярнульца гэтага крока і критэрыі завершэння. Аперацыяныя працавнікі должны магчымае перайсці на гэты крок з вядомага пункта контролю, не спрабоўваючы здогадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшоў, прычына нехацкага рэзультата должна быць чыста аднай відпаведальнасцю, а не плутаным ланцоўкам задач. Неабходна людская апрацоўка тых крокаў, якія выкорыстоўваюць грошы чыта зменяюць данні, якія викорыстоўваюцца у працэсе. Компіляцыйныя налашчэння не ўзначаюць павнае адпрацоўкі бізнес-процэсаў. Для стадіі рэалізацыі шара памяці неабходна ўжо на пачатку, перш чым зменяць код, апрацаваць параметры вхідных дадзеных, абярнульца гэтага крока і критэрыі завершэння. Аперацыяныя працавнікі должны магчымае перайсці на гэты крок з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Неабходна фіксаваць час выкарыстоўвання, а таксама косць токенав чы запытаў разам з функцыйнальнымі рэзультатамі. Відразлівасць косцаў з самага пачатку запобегае неспакойным рахункам, калі процес пераходзіць з дэмаверсіі ў режым аддачы.

У сэрвісных сераўнах.

Што змянілася на практыцы

Калі працуеце над этапам «Што змянілася на практыцы», спачатку запісайте контракт: неабяжныя даны, сигнал успеху і тое, што відбываецца у разе частковай нявыполнення. Такі список контроля дапамагае залишыцца чыстым пад час пазнейшых змян у кодзе. Зберагаюце настройкі паза кодам прыемліка. Файлы сераўна, хранільнікі секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куда аператары можу працаваць без неабяжнага чытання всіх элементаў системы. Стварайце контрольныя пункты пасля дорогіх крокаў. Система вярнення роботы не должна занова ставіць плату за той самы вызыв LLM, калі аператар перапрыяўляе роботу да наступнага элемента.

mempalace_search(query="NoClassDefFoundError DBR 14.3")

Урокі з рэальнай експлуатацыі

Калі працюеце над урокамі з стадіі вырабаткі, спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага неякшання. Такій чэк-ліст дапамагае заставаць правдзівымі пазнейшыя змены коду. Документавайце як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкіе контралі і обработка некоректных паведамленняў ёсцю часткая продукту, а не пазнейшая дапрацоўка. Зробіце чэкпойнт пасля дорогіх крокаў. Система вярнення не павінна зноў вырахоўваць кашты за той самы вызов LLM, калі аператар перапрыбуе пазнейшы вузел.

1. Будзьце абераглівы ў випадку історычных дапраўленнях

Калі працуеце над пунктам 1, будзьце абераглівы ў вопысе этапаў: спачатку запішыце умовы кантракту — неабходныя данні, сігнал успеху і тое, што выходзіць на частыя неудачы. Такі список контроля дапамагае заставіць пазнейшыя змены коду быць чыстымі. Валічыце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выходзіць, неудача павінна адносіцца да адной відповядальнасці, а не да заплутанага ланца задач. Робіце контрольныя пункты пасля дорогіх крокаў. Система не павінна зноў выклікаць той самы кантакт з LLM, калі аператар прабуе зноў запрацаваць пазнейшы вузел. Калі працуеце над пунктам 1, будзьце абераглівы ў вопысе этапаў: спачатку запішыце умовы кантракту — неабходныя данні, сігнал успеху і тое, што выходзіць на частыя неудачы. Такі список контроля дапамагае заставіць пазнейшыя змены коду быць чыстымі. Запісвайце час выканання і кост токенав або запытаў праза функцыйнае рэзультат. Відкрытыя данні пра косцы з’являюцца рана, таму не будзе неспакою, калі процес пераходзіць з дэмавайнага режыма ў спяльныя сераўеры.

2. Храніце мемарыі на натуральнай мове

2. Зберагачы памяці ў стадыйных роботах працуюць найэфективнейша, калі іх розглядаць як вимерную паверхню. Запісайте адна ідеальная версія, адзін прыклад неудачы і прыметку пра відкатанне раней, чым расширюваце масштабы. Зберагачы налаштаўвання трэба трываліць пазырней ад коду прыемліка. Файлы сераўнавальнага сераўна, сховішчы секрэтных даных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць пераглядаць без неабходнасці чытання всей структуры. Стан графа трэба падтримваць у простай форме з адзінаковым типам даных. Вкладаныя блокі даных маскуюць інфармацыю пра тое, який вузел запісаў якое поле, і спакоююць продаж чытання пасля перерываў.

3. Будзьце выбірчы ў тым, што запісваеце

3. Найкраща практыка выбірчасці ў роботе з етапамі — цэе ставленне да іх як да вимерованай паверхні. Запісаўце адна «золатая» транскрыпцыя, адин прыклад неудачы і прыметку па вярнэнню да поперадньага стану пры расшырэнні масштаба. Дакументавайце як шлях успеху, так і шлях вярнэння. Перапрыбуткі, людзкія контрольныя пункты і обработка некоректных поведань ўскладнень є частью продукту, а не паслядняя доробка. Зберагайце стан графаў у простам і типаваным формате. Вкладзеныя блокі маскуюць інфармацыю пра тое, який вузел запісаў якое поле, і спакшуюць продовжэнне роботы пасля перерываў.

Вывады

Этап Takeaways работае наякраща, калі яго спрыяваць як мерыемую паверхню. Зберагчыце адны ідеальны прыклад роботы, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг дзеяння. Рэжым графа павінен быць простым і з адначыным типам. Вярнутыя структуры маскуюць інфармацыю пра тое, каней вузел запісаў канкрэтны поле, і спаказваюць роботу пасля перарываў. Этап Takeaways работае наякраща, калі яго спрыяваць як мерыемую паверхню. Зберагчыце адны ідеальны прыклад роботы, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Запісвайце часы выконання і косты токеноў або запытав, падаючы іх разам з функцыйнальнымі рэзультатамі. Відразлівасць костаў з самага пачатку запобегае неспакойным рашчыткам, калі процес пераходзіць з дэмавайнага режыму ў спяльныя сераўы.

Чэк-ліст для эксплуатацыі

Калі працюеце над стадзіяй Кантрольнага списку, спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага неяксамоства. Шыры ўсё гэта дапамагае заліцвачваць пазнейшыя змены коду.

Спрыятліваеце гэтую стадзію як контракт межа данымі і перакананымі выходамі. Дайце назвы элементам, задаце критэрыя успеху і адмовіцеся ад мовчанкавага частковага завершэння.

Зробіце кантрольную паузу пасля дорогіх крокаў. Система вярнення не павінна зноў нарахоўваць кашты за той самы вызов LLM, калі аператар прабуе зноў запрацаваць пазнейшы вузел.

Фіксуйце версіі залежнасцяў і запісвайце хэш адобраза, які выканаў дамэ. Возможнасць павторнага стварэння результатаў лепшая за традыцыйныя знання.

Запісвайце час выконання і кашты на токены або запиты разам з функцыйнальнымі рэзултатамі. Відразы каштоўнасці з самага пачатку запобегае неспакойным нарахоўкам, калі процес пераходзіць з дамэ ў спяльныя среды.

Пауза пасля дорогіх крокаў. Система адновлення не должна занова стягуваты плата за той самы вызыв LLM, калі аператар прабуе зноў запрацаваць з пазнейшым вузлам.

Перад паўзачыненням роботы стэка неабходна заморазіць версіі, зафіксаваць «золаты» транскрыпт для критычнага шляху і падтвердзіць крокі для вярнення да пачатковага стану. У спільных середовісках трэба встановіць ліміты швайнаў, пераканацца ў належнасці ресурсаў і вказаць чысткага адпаведальнага за зміны секрэтных даных. Краща простая надзеянасць на стабільнасць, чым хітрыя експерыменты, якія выкалічваюцца разова.

Прымечанне для пакету 38de2a9ea9de: не клаціць ключы прадаўца ў репазітары, встановіць ліміт токена на кожную сесію і зберагчыць транскрыпты разам з фіксатрамі для ацэнкі, ўпрымку праз змену моделей будзе можна пораўняваць рэзультаты.