Практычныя прытамулкі: Тонкая наладка стала дешэвай. Ваш агент усё рава павінен больш-менш навучыцца.

Існавайце гэта як перапрацоўку ідэй з артыкула “Fine-Tuning Got Cheap. Your Agent Should Still Learn Almost Nothing.” для аператараў: чыстыя этапы, арранжаваныя слоты для коду і прыміткі з восстанавлення, якія застаюцца пасля перадачы. Этап “Адгледжэння” найкраща працюе, калі яго розглядаць як вимерную плошчу. Запісайце адна ідеальная транскрыпцыю, адзін прыклад неудачы і прыміткі з вярнення да пачатковага стану, прычым расшырюючы масштабы. Запісвайце часы виконання і кост токенав або запытаў праза функцыйнае рэзультат. Відкрытыя даныя пра косцы з’являюцца раніце, таму не будзе неспакою з рахункамі, калі процес перейдзе з дэмаверсіі ў спяльныя среды.

Прыведзенне ў стан актыўнасці і сон — гэта два разныя цыклу

Для таго, каб працэўка і сон былі ў вялікай меры стадіямі, паказваецца, калкі параметры неабходны, хто ўпраўляе кожным крокам і якія критэрыя для завершэння, прычаму трэба зменіць код. Аператары должны магчымае перзапускать кожны крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Конфігурацыю трэба залічыць параду ад коду прыкладнення. Файлы сяродавішча, хранальнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць пераглядаць іх, не чытаяўшы весь граф. Пры канектах, якія выкарыстоўваюць грошы або зменяюць данні ў працэўчы, неабходна людская згода. Прыўязкі ў часе компіляцыі не абавесць цэласнасцю бізнес-процэсаў.

Найлепшы вучыльнік — это ваш сае агент, які трэбуе інструкцыі

Для таго, каб быў выбраны найлепшы вучыльнік, неабходна пазначыць вхідныя даны, адпаведальнага за кожны крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі должны магчыма ўвайсці зноў у кожны крок па вядомым пункту контролю, не спрабоўваючы здагадвацца пра схованы стан. Неабходна задокументаваць як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія пераказы і обробка некоректных паведамленняў є часткай продукту, а не чымсь, што дадаецца пазней. Неабходна атрымаць людзкую згоду для тых крокоў, якія выкарыстоўваюць грошы або зміняюць даны ў працэсе виробніцтва. Працэс складання коду не є гарантыяй полнай адпаведнасці продукту выклікам рынку.

# teacher: same model, unfair advantage
teach = Agent(system=playbook)
# student: same model, empty context
bare = Agent()

tries = [bare.run(t) for t in tasks]

graded = [teach.grade(x) for x in tries]
finetune(bare, graded)   # one round only
# now serve it with NO playbook

Градыент – это абавеска, таму нехай ён яе заслужыць

Для процесу A gradient як стадзія, перш чым зменшваць код, неабходна дэфініцыя вхідных даных, адміністратара шагу і крэтэрыяў завершэння. Аперацыяныя працавнікі должны магчымае перзапускаць шаг з вядомай точкі контролю, не спрабоўваючы здогадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі шаг не выйшаў, прычына нехасабносці должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцоўкі задач. Неабходна людская апрацоўка там, дзе відбываецца выдатак грошэй або зміняюцыся даныя для працы. Компіляцыйны падход не ўзроўнаваны з повнасцю бізнес-процэсаў. Для процесу A gradient як стадзія, перш чым зменшваць код, неабходна дэфініцыя вхідных даных, адміністратара шагу і крэтэрыяў завершэння. Аперацыяныя працавнікі должны магчымае перзапускаць шаг з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан. Запісвайце час выконання, а таксу токеноў чы запытам наступнае да функцыйнаых рэзультаатаў. Відразлівасць костоў з самага пачатку запобегае неспакойным рахункам, калі процес пераходзіць з дэмовай среды ў спяльнаныя сераўы.

Адаптуюцца да аднаго раунда. Трэці раунд — там, дзе ўсё ламаецца.

Калі працуеш у режыме «Аднаго раунда достатнь», спачатку запісай умовы: неабяжныя даны, сігнал успеху і тое, што выходзіць, калі адбываецца частковая нявыплата. Такі список дапамагае залишацца чыстым пад час пазнейшых змян у кодзе. Храніць конфігурацыю парадульна ад коду прыемліка. Файлы сераўнавання, сховішчы секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаюць пераглядаць іх, не чытаяўшы весь граф. Ствараць контрольны пункт пасля дорогіх крокаў. Функцыя вярнення не должна знову ставіць плата за той самы вызов LLM, калі аператар перапрыяўляе роботу да пазнейшай вузлы.

Ствары гэтую систему ўсё раней, чым яна патрэбная.

Калі працуеце над этапам «Стварэнне вората перад стадіяй», спачатку запісайце умовы кантракту: неабяжлівыя данні, сигнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі чэк-ліст дапамагае заставіць пазнейшыя змены коду быць чыстымі.

Чэк-ліст для эксплуатацыі

Калі працуеце над этапам чэк-ліста для эксплуатацыі, спачатку запісайце умовы кантракту: неабяжлівыя данні, сигнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі чэк-ліст дапамагае заставіць пазнейшыя змены коду быць чыстымі.

Спрыяйце цэму этапу як кантракту межа даннімаў і перакананымі выходнымі рэзультатамі. Дайце назвы артыфактам, задаце правілы пераканання успеху і адмовіцеся ад мовчкавага частковага завершэння.

Пауза пасля дорогіх крокаў. Функцыя адновлення не должна занова нарахоўваць плата за той самы вызыв LLM, калі аператар праказвае спробу на пазнейшым вузле.

Забезпечыце фіксацію версій залежнасцяў і запісаце хеш-значэнне зображэння, якое викорыстоўвалася для дэманстраціі. Возможнасць перадарабаткі прынесе больш пользы, чым традыцыйныя методы.

Запісвайце час виконання аперацый, а таксу на токены чы запиты разам з функцыйнальнымі рэзультатамі. Відразувыя данні пра вартасць запобегаюць неспакоўным нарахоўкам, калі процес пераходзіць з дэманстрацыі ў спадзеленыя сераўеры.

Пауза пасля дорогіх крокаў. Функцыя адновлення не должна занова нарахоўваць плата за той самы вызыв LLM, калі аператар праказвае спробу на пазнейшым вузле.

Перад пераходам да наступнага етапу заблокіруйце версіі, зафіксуйце критычны варіант транскрыпціі для ключовага шляху і паказваце крокі для вярнення да пачатковага стану. У спадзеленых сераўерах неабходны ліміты на колькасць запытоў, пераказкі прав на выкарыстоўвання ресурсаў і чысткі распадзел канфідэнцыйных данных. Валіце надзейнасць, чым крэатывныя, але разовыя дэманстраціі.

Запіска параграфу f0cb0cf084ed: не трэба кантрацеўваць ключы прадаўцаў у репазітарыі, задаць максімальную кантэйнернасць токена на кожную сесію, а таксама зберагчы транскрыпціі празаўседле з фікстурамі для ацэнкі, каб пазнейшыя замены моделей заставалі пораўнанневымі.

Запіска па прыняццю заходаў абароны 0 стадіі найэфектывней працюе, калі яе спрыяваць як мерыемую плошчу. Зафіксавайце адну ідеальную транскрыпцію, адзін прыклад неудачы і запіску па вярненню да пачатковага стану пры расшырэнні масштаба. Дакументавайце як успешны, так і вярнучыся паты. Перапрыбуткі, людзкія контралі і обработка некантрольваных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам.

Дзялей прыняцця заходаў абароны 0/953: замерьце час выканання, класію адзінакоў і выкарыстаны токен для гэтай запіскі, а пасля вырашыце, чы робіць змяну на адной пазначанай сэткі пытанняў, а не на адной толькі анекдотычнай інформацыі.

Для першага пасэгу з узгаджанняя жорсткасці неабходна ўскладніць вводныя даны, адпаведальную особу за выкананне крока і критэрыя завершэння прычымкі коду. Аперацыйныя працавнікі павінны магчымае перадзеяць крок з вядомай точкі контролю, не прабуючы спадарожваць схованы стан. Цей пасэг слічна спрыяць як кантракт межа вводнымі данымі і перакананымі выходнымі рэзультатамі. Назваць всі неабходныя дакументы, ускладніць перакананняя успеху і не падтрымваць беззвучна часткова завершэння прычымкі.

Дзеянні з узгаджанняя жорсткасці 1/953: зважыць час выканання, класія памылак і колькасць выкорыстоўваных токенав для гэтага пасэгу, а потым вынікнуць, чы робіцца змяна на аднойчы заданай сэткі пытанняў, а не на аднойчы прымітках.

Калі працуеце над 2-й стадзіяю практыкы заспекцыі, спачатку запісайце умовы кантракту: неабяжлівыя данні, сігнал успеху і тое, што выходзіць на частыя неудачы. Такі список контроля дапамагае заліцвачыць пазнейшыя змены ў кодзе. Зберагайце настройкі параду ўнутрь коду прыемліка. Файлы сераўнавання, хранальнікі секрэтных данных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куды аператары можаць адбавіць аудыт без неабяжлівага чытання всей структуры.

Дзялённе 2/953 практыкы заспекцыі: вы меравайце час выкарыстоўвання, класыя ошибкі і колькасць токенаў, якія былі выкарыстоўаны для данай практыкі, а потым выявляйце, чы хацеце застаўіць змену, адпаведна фіксаванаму набору пытанняў, а не толькі на адной прымітцы.

2-я стадзія практыкы заспекцыі працуе лепей, калі яе спрыяглядаюць як меравальную плошчу. Зберагайце адну ідеальную транскрыпцыю, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць сферу дзеяння. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, неудача должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцужок дзеянняў.

Дзеянне паўжасткі 3/953: звярніце увагу на час выканання, класы памылак і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля, на аднойчынай базе фіксаваных пытанняў, а не на індывідуальных прыкладах, выявіце, чы рэшацца застаўляць змяну.

Для 4-го этапа паўжасткі неабходна перад змянай коду чытко визначыць вхідныя даны, адпаведальнага за этап і крэтыяры завершэння. Аперацыяныя працавнікі должны магчымае перадзваначыць гэты этап з вядомага пункта контролю, не прыпускаючы стану, які застаўся нез’явным. Запісывайце час выканання і колькасць токенаў або запытак праза функцыйнае рэзультат. Відкрытая інформацыя пра витраты запобегае неспакою, калі процес пераходзіць з дэмаверсіі ў спяльныя среды.

Дзеянне паўжасткі 4/953: звярніце увагу на час выканання, класы памылак і колькасць токенаў, выкорыстаных для гэтага запісу, а пасля, на аднойчынай базе фіксаваных пытанняў, а не на індывідуальных прыкладах, выявіце, чы рэшацца застаўляць змяну.

Калі працуеце над 5-м падземам прыемкі забезпечэння безпекі, спачатку запісайце угоду: неабяжлівыя данні, сігнал успеху і тое, што выходзіць пад частковыя неудачы. Такі список пераканае ў тым, што пазнейшыя змены коду будуць чыстымі.

Документавайце як шлях успеху, так і шлях вярнення. Перапрыбуткі, людзкіе контралі і обработка некоректных паведамленняў є частью продукту, а не пазнейшым дапрацоўкам.

Дзялей 5/953 прыемкі забезпечэння безпекі: вымерайце час выканання, класыя ошибакі і витрату токенав для гэтай прыемкі, а потым выберайце, чы робіць змены на адной фіксаванай сэтке пытанняў, а не на адной лічбе прыкладаў.

5-й падзем прыемкі забезпечэння безпекі работае лепей, калі яго спрыямаць як вымеральную паверхню. Запісайце адна ідеальная транскрыпцыя, адзін прыклад неудачы і запіску пра вярненне да пачатковага стану перш чым расширваце сферу дзейнасці.

Спрыяйце гэтаму падзему як угоды межа даннімі і перакананымі выходамі. Дайце назвы артыфактам, задаце перакананні на успех і адмовіцеся ад тых падзеяў, калі частковае выкананне адбываецца без паведамлення.

Дзеянне паўжасткі 6/953: звярніце увагу на час выканання, класы памылак і витрату токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на індывідуальных прыкладах, выявіце, чы рэшацься застаўляць змяну.

Для 7-й стадзіі паўжасткі неабходна перад змянай коду чытко апісаць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аперацыяныя працавнікі должны магчымае перадзваначыць гэты крок з вядомага пункта контролю, не прымусваныя здагадвацца пра схованы стан. Канфігурацыю трэба зберагчы за межамі коду прыемленае, таму што файлы сяродавішча, хранальнікі секрэтных дадзеных і флагі функцый належаць у аднам месца, якое працавнікі можу аудытаваць, не чытаючы весь ланцуг залежнасцяў.

Дзеянне паўжасткі 7/953: звярніце увагу на час выканання, класы памылак і витрату токенаў для гэтага запісу, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на індывідуальных прыкладах, выявіце, чы рэшацься застаўляць змяну.

Калі працуеце над 8-м стадзіям заўважэння па забезпечэнню безпекі, спачатку запісайце умовы кантракта: неабяжныя даны, сігнал успеху і тое, што выходзіць па частковай нявыполненасці. Такі список контроля дапамагае залічыць пазнейшыя змены ў кодзе адкрыта і прозрачна. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына нявыполненасці павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач.

Дзеянне па забезпечэнню безпекі 8/953: замерайце час выканання, класію каштоўкаў і витраты токенав для гэтага заўважэння, а пасля вырашайце, чы робіць змены на адной фіксаванай базе пытанняў, а не на адной лічбе прыкладаў.

8-я стадзія заўважэння па забезпечэнню безпекі працуе лепей, калі яе спрыямаць як меравальную плошчу. Запісайце адну ідеальную транскрыпцыю, адны прыклад нявыполненасці і заўважэння па адкатаванні, прычым не расшырюючы сферу дзеяння. Запісвайце часы выканання і вартасць токенав або запыткаў разам з функцыйнальнымі рэзултатамі. Відкрытая візуабільнасць вартасцей запобегае неспакойным рахункам, калі процес пераходзіць з дэмаверсіі ў спяльныя среды.

Дзеянні паўжасткі 9/953: звярніце увагу на час выканання, клас памылак і колькасць викорыстоўваных токенав для гэтага зьязку, а пасля, на аднойчынай базе фіксаванага набору пытанняў, а не на індывідуальных прыкладах, выявіце, чы хацяце застаўіць змены.