Практычныя прытамулкі: Я перастаў выкарыстоваць базы дадзеных Vector. Мой RAG стаў лепшым.

Наступныя прыміткі паказваюць практычны шлях, як дася прыйсці да рэштычкаў, паказваных у тэксте “Я перастаў викорыстоўваць базы дадзеных типу Vector. Мой RAG стаў кращым.”. Акцэнт ставіцца на контракты, перакрычанняя і месца для коду, які можна проста заместіць, а не на мотывацыйныя аспекты. Калі працуеце на стадіі агляду, спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што будзе, якщо адбудзецца частковая нявыплненасць. Такі список дапамагае залишыцца чыстаснам у пазнейшых змяненах коду. Запісвайце час выканання і кост токенавання або запыту разам з функцыйнальнымі рэзультатамі. Відразувыя даны пра косцы запобегаюць неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўсы.

Усі мне казалі викорыстоўваць базу дадзеных типу Vector

Праця «Everyone Told Me to» дае найкращыя результаты, калі яе розглядаць як меркаваную паверхню. Запісаце адна «золатая» версія, адин прыклад неудачы і запіс працэў па вярненню да пачатковага стану пры расшырэнні масштаба. Храніце настройкі пазырочна ад коду прыемліка. Файлы сяродавішча, базы секрэтных даных і пазнакі функцый должны знаходзіцца ў адном месцы, куды аператары можаць адбавляць аудыт без неабяжнага чытання всіх дадзеных. Раздзеляйце правілы часткавання дадзеных і правілы ўтрымання іх. Змена адных не должна вымагаць перапісву іншых, калі зменяюцца паказнікі якасці.

Таёмнае пра семантычны пошук

Процес роботы з «бруднымі» секрэтамі на стадыі розрабаткі працюе найэфектывней, калі яго спрыявае можласць вимеры парадактов. Запісайте адзін ідеальны прыклад, адзін прыклад неудачы і прыметку па адкатуванні, перш чым расширваць масштабы. Документавайце як шлях успеху, так і шлях вярнення да нормы. Перапрыбуткі, людзкі контроль і обработка некоректных паведамленняў є частью самага продукту, а не наступным етапам дорабаткі. Раздзеляйце правілы частковай обработкі дадзеных і правілы ўтрымання інформаціі. Змена адных не павинна вымагаць перапісвання іншых, калі змянююцыся паказателі якосці.

Проблема паглыбляецца з ростам масштабу

Этап «Проблема паглыбляецца» работае лепша, калі яго спрыяваць як меравальную плошчу. Зафіксавайце адны ідеальны прымер, адзін кейс неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням масштаба. Валіце маленькія, тэставальныя элементы замест большых скрыптов. Калі якісь крок не выйшае, неудача должна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Раздзеляйце правілы часткавання інфармацыі ад правіл яе выявлення. Змена адных не должна прымусіваць перапісванне іншых, калі змянююцца паказнікі якосці. Этап «Проблема паглыбляецца» работае лепша, калі яго спрыяваць як меравальную плошчу. Зафіксавайце адны ідеальны прымер, адзін кейс неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням масштаба. Запісвайце часы выконання і косты токеноў або запытак праза функцыйнальныя рэзултаты. Відразувая візуабельнасць костаў запобегае неспакойным рахункам, калі процес пераходзіць з дэмаверсіі ў спяльныя среды.

Чым вы яго заменілі

У стадії «Што было заменяюцца» неабходна практычная ваказка параметраў, адпаведальнага за выкананне крока, а таксама крэтарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі павінны магчымае перапрацаваць крок, выкорыстоўваючы вядомы пункт контролю, без неабходнасці адгадвання скрытых станоў. Конфігурацыю трэба знаходзіць за межамі коду прыемленае. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функцый павінны быць аднароджаны ў аднам месца, якое працавнікі можуць пераглядаць, не чытаючы весь код. Неабходна цітаваць тыя часткі тексту, якія фактычна лежаць у падставе адпаведнай адказы. Без цітатаў працавнікі не можуць адразніць галюцинацыю ад працягу індэксавання.

Крок 1: Пошук за ключавымі словамі BM25

Для першага BM25 – стадыі ключоўых слоў – пярэд тым, як зменіць код, неабходна задаць вхідныя даны, адпаведальнага за гэты крок і критэрыя завершэння. Аператары должны магчыма было перзапускаць гэты крок з вядомай точкі контролю, не падозрываючы прыхованы стан. Неабходна задокументаваць як шлях успеху, так і шлях вярнення да нормальнага стану. Перапрыбуткі, людзкія перакрыцця та обробка некоректных паведамленняў є частью продукту, а не чымсь, што дадаецца пазней. Паказваць трэба тыя часткі тексту, якія фактычна лежаць у падставе адпаведнай адпаведзі. Без цых цитатаў аператары не зможуць розразліць галюцинацыю ад прасоў у індексацыі.

Шаг 2: Семантычны пошук (эмбедынгі)

Для стадіі семантныях пошукоў 2-го крока неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аператары должны магчымае перадзеісцавіць крок з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выйшаў, прычына неудачы должна вказываць на адзін конкрэтны элемент, а не на заплутаны процес. Прыкладзіце тыя часткі тексту, якія фактычна ляглі в основу адпаведнай адказы. Без цых цітатаў аператары не зможуць розлічыць галюцинацію ад працягу падчас індексавання. Для стадіі семантныях пошукоў 2-го крока неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аператары должны магчымае перадзеісцавіць крок з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Запісвайце час выконання і кост токеноў або запытаў разам з функцыйнаімі рэзультатамі. Відразувыя даны пра косцы запобегаюць неспакойным рахункам, калі процес пераходзіць з дэмавай версіі ў спакульнаныя сераўеры.

Шаг 3: Гібрыдна злучэнне

Калі працуеце над стадзіяй Гібрыдна злучэнне шага 3, спачатку запісайце умовы кантракта: неабяжлівыя даннэ, сігнал успеху і тое, што выканаецца у разы ў частковай нявыполненасці. Такі список пераканаецца дапамагае залічваць пазнейшыя змены ў кодзе. Зберагаюце настройкі паза кодам прыемліка. Файлы сераўнавання, храненні секрэтных дадзенаў і флагі функцыйяй должны знаходзіцца ў аднам месцы, куды аператары можаюць адбавіць аудыт без чытання всей структуры. Перад налаштаваннем запитоў пераканайце рэкалі, выкарыстоўваючы фіксаваны набор запытанняў. Частае змены запытоў рэдка калі вярнуюць слабую эфектыўнасць пошуку.

Шаг 4: Переранжаванне

Калі працуеце над стадзіяй переранкінгу, яка ўскладнена 4-м крокам, спачатку запісайце угоду: неабяжныя даны, сигнал успеху і тое, што выканаецца у разе частковага нявыполнення. Такі список пераканаецца у тым, што пазнейшыя змены коду будуць адкрытымі. Документавайце як шлях успеху, так і шлях вярнення да стану нормы. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў є часткай продукту, а не элементамі пазнейшага доўрабатвання. Змяроўваеце рэкалі на фіксаванай сэтке запытаў прычым падбір запытанняў. Частае змена запытанняў рэдка калі вярнуе слабую эфектыўнасць адзысквання інформаціі.

Цифры не бяруць у каверзу

Калі працуеце над стадіяй «The Numbers Don’t», спачатку запісайце умовы працы: неабяжлівыя данні, сигнал успеху і тое, што выходзіць у разе частковага невыпання. Такі список контроля дапамагае заліцьваты пазнейшыя змены ў кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, невыпанне павінна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Перад налаштаваннем запитоў пераканайцеся ў рэзультатах адпаведнага набора запытаў. Частыя змены запытоў рэдка калі вядуць да павышэння якасці выкарыстоўвання данных. Калі працуеце над стадіяй «The Numbers Don’t», спачатку запісайце умовы працы: неабяжлівыя данні, сигнал успеху і тое, што выходзіць у разе частковага невыпання. Такі список контроля дапамагае заліцьваты пазнейшыя змены ў кодзе. Запісвайце час выканання і вартасьць токеноў або запытаў разам з функцыйнаімі рэзультатамі. Відразувыя данні пра вартасьці запобегаюць неспакойным рахункам, калі праця пераходзіць з дэмавай версіі ў спяльныя сераўы.

Як адразу ж застосаваць гэта

Этап «Як рэалізаваць гэта» працуе наяўней, калі яго спрыяваць як мерыемую структуру. Зафіксавайце адну ідеальную версію, адзін прыклад неудачы і запіс пра вярнэнне да поперадней версіі, прычаму расшырваючы сферу дзеяння. Зберагаўце настройкі пазырочна ад коду прыемлівача. Файлы сяродавішча, хранільнікі секрэтных дадзеных і пазначкі функцый кануць у аднам месца, якое аператары можаць пераглядаць без неабяжнага чытання всіх элементаў. Раздзеляйце правілы часткавання дадзеных і правілы ўзяць іх. Змена адных не павінна вымагаць перапісву іншых, калі зменяюцыся паказнікі якосці.

Некомфортны шаблон

Этап «Некамфортныя моделі» працюе наўсёрэдзе, калі яго спрыяваць як мерыемую паверхню. Зафіксавайце адна «золатая» транскрыпцыю, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану, перш чым расширваць масштабы. Дакументавайце як шлях успеху, так і шлях вярнэння. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў ёсць часткай продукту, а не пасляднім дапрацоўкам. Раздзеліце політыку частковай обработкы дадзеных ад політыки ўтрымання іх. Змена адной з яных не должна вымагаць перапісвання другой, калі зменяюцыся паказнікі якосці.

Чэрніца кантролю

Для этапу чэрніцы кантролю, перш чым зменяць код, задаце вхідныя даны, адпаведальнага за крок і критэрыя завершэння. Аперацыйныя працавнікі должны магчымае перайсці цей крок з вядомай точкі контролю, не спрабоўваючы здагадвацца пра схованы стан.

Спрыявайце этапу як даговору межа вхіднымі данымі і перакананымі выходнымі рэзультатамі. Даце назвы артыфактам, задаце паказнікі успеху і адмовіцеся ад беззвучнага частковага завершэння.

Указаць тыя часткі тексту, які фактычна ляглі в основу адказу. Без цых цытатаў аператары не можаюць разлічыць галюцинацію ад прасоўкі ў індэксаванні.

Напісаць кароткі практычны паказ: як роціраваць канты, як апустошыць чергу, як вярнуць стан да пярэдніго стаўкання.

Зазначыць час выкарыстоўвання і кост токенаў або запытаў па боку функцыйнаых рэзультатаў. Відразлівая візуабельнасць костаў з’являецца прычыной таго, што не будзе неспакойных рахунковых пісьменаў, калі сцэнарый пераходзіць з дамовай версіі ў спадзеленыя сераўы.

Указаць тыя часткі тексту, які фактычна ляглі в основу адказу. Без цых цытатаў аператары не можаюць разлічыць галюцинацію ад прасоўкі ў індэксаванні.

Перад паўышэнням рангу стака заморозіць версіі, зафіксаваць «золаты» транскрыпт для критычнага сцэнарый і падтвердзіць крокі вярнення да пярэдньага стану. У спадзеленых сераўых неабходны ліміты частоты запытаў, пераказкі належнасці і чыста вялічыню власніка для роціравання секрэтных даных. Лепш выбраць простую надзеянасць на стабільнасць, чым крэатывныя, але ентычныя дамовыя прыклады.

Запіскі для пакета e747eb7e000c: не трэба кантрацаваць ключы прадастоўцаў у репазітары, задаць максімальную кантроль на токены за сесію, а таксама зберагчы транскрыпціі праза фіксатуры eval, каб пазнейшыя замены модэляў заставаліся парабелнымі.