Практычныя прытамулкі: LangChain Серыя 1: Розумеўце модэляў, запросаў, ланцаў

Існавайце гэта як перапрацоўаны варыянт ідэй з кніги “LangChain Series #1: Understanding Models, Prompts, Chains, Memory, Indexes, and Agents” для аператараў: чыткія этапы, арранжаваныя блакі коду і прыметкі па вяснаванню, якія застаюцца пасля перадачы. Этап “Адгледжэнне” найкраща працюе, калі яго розглядаць як мерыябельную плошчу. Запісайце адна ідеальная транскрыпцыя, адзін прыклад неудачы і прыметкі па атрыбуцыі да пачатку роботы, прычаму не расшырюючы масштаб. Запісвайце час выканання і вартасць токенав або запытаў праза функцыйнальныя рэзултаты. Відразувая вартасці запобегае неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўысы.

Введэнне ў Langchain:

Для стадіі «Введэнне ў LangChain» неабходна прадзефінавацыя вхідных дадзеных, адпаведнага власніка крока і крэтарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі должны магчымае перзапускаць крок з вядомай точкі контролю, не прабуючы выявіць схованы стан. Конфігурацыю трэба залічыць паза кодам прыемленае. Файлы серавэра, хранільнікі секретных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аперацыйныя працавнікі могу пераглядаць, не чытаючы весь граф. Калі наступны крок — це код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя данні з пераканальванням схемы, чым вольныя тэкстовыя апісанні.

Корыстнае прызначэнне LangChain:

Для стадіі LangChain Benefits неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі павінны магчымае перазапускаць крок з вядомай точкі контролю, не прабуючы спадарожваць схованы стан. Неабяжна аддакуваць документацыю як пра успішны, так і пра патэнтны ход роботы. Перапрыбуткі, людзкія перакрыцці та обробка некоректных паведамленняў є часткай продукту, а не чымсь, што дадаецца пазней. Калі наступны крок — це код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя даны з перакананнем схэмы, чым вольныя тэкстовыя апісанні.

1. Незалежнасць ад модэляў

Для стадіі 1 «Незалежна адаптаванасць да модэляў» неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выканаецца, прычына неудачы должна вказываць на адзін конкрэтны элемент, а не на заплутаны ланцуг задач. Калі наступны крок — гэта код чыя-небудзь вызов інструмента, лепш выкарыстоўваць структураваныя выходны даны з перакананнем ў ўсасці шэмы, чым вольныя тэкстовыя апісанні. Для стадіі 1 «Незалежна адаптаванасць да модэляў» неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Рэгіструйце час выканання, а таксу токеноў чы распытак пры кожных функцыйнаых рэзультаатах. Відразувыя даны пра вартасцы запобегаюць неспакоўным рашчыткам, калі процес пераходзіць з дэмавай версіі ў спяльныя среды.

2. Падзеры запытак, якія можна выкарыстоўваць знову

Калі працюеце над стадзіяй 2 «Падзеры запытак, якія можна выкарыстоўваць знову», спачатку запісайте умовы: неабяжныя даны, сігнал успеху і тое, што выходзіць на падзею частковага невыпання. Такі список дапамагае заліцварыць пазнейшыя змены ў кодзе. Зберагаюце настройкі праза код аплікацыі. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куда аператары можу пераглядаць іх без неабяжнага чытання всей структуры. Зберагаюце у кэшы стабільныя інструкцыі системы і схемы інструментаў. Перадача таго ж самога прамаргіналу є частым выклікам расходавання ресурсаў.

3. Апростаныя рабочыя процесы AI

Калі працуеце над 3 стадзяміі спрощаных алгорытмаў AI, спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выканаецца у разе частковага нявыпалення. Такі список пераканаецца дапамагае залічываць усе змянення ў кодзе.

4. Аплікацыі, якія ведаюць контэкст

Калі працуеце над 4-м стадзіям «Програмы, які врачаюць контэкст», спачатку запісайце умовы вярбунка: неабяжлівыя данні, сигнал успеху і тое, што выходзіць пад частковыя неудачы. Такі список дапамагае заліцварваць пазнейшыя змены ў кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, неудача павінна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Зберагаеце у кэшы стабільныя інструкцыі системы і схемы інструментаў. Перадзял у тое ж самае прамэру — частая прычына зайвых витрацоў. Калі працуеце над 4-м стадзіям «Програмы, які врачаюць контэкст», спачатку запісайце умовы вярбунка: неабяжлівыя данні, сигнал успеху і тое, што выходзіць пад частковыя неудачы. Такі список дапамагае заліцварваць пазнейшыя змены ў кодзе. Запісвайце час выканання і вартасць токенаў або запытак пад функцыйнальнымі рэзултатамі. Відразувая візуабільнасць вартасцей запобегае неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўы.

5. Эфектывае выкарыстоўванне знанняў

Этап 5 «Эфектыўнае выкарыстанне ведамасцей» працюе наякша, калі яго розглядаць як мерыемую велічыну. Запісаце адна ідеальная версія рэзультата, адин случай неудачы і прыметкі па поверненню да попярэднья стану пры расшырэнні масштаба. Храніце настройкі пазырочна ад коду прыемліка. Файлы сяродавішча, базы секрэтных даных і флагі функцый должны знаходзіцца ў аднам месцы, куды аператары можаць адрабатаваць без неабяжнага чытання всіх дадзеных. Задаце ліміт токенаў на кожны раунд і на кожную сесію. Інструменты з агентным режымам актыўна расшырваюць контэкст; строгі ліміты не дазволяюць, каб дэманстрацыі ператварыліся на неспакоўныя рахункі.

6. Автонамныя рашэнні

6-й этап автонамнага прыняцьбы рашэнняў работае наякша, калі яго спрыяваць як мерыемую паверхню. Запісаце адна ідеальная версія, адзін прыклад неудачы і прыметку па адвярненню перад расшырэнням масштабаў. Дакументавайце як успішны, так і вярнучыся шляхы. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў є часткай продукту, а не наступным этапам дапрацоўкі. Задаце бюджет токенав на кожны рунг і на кожную сесію. Інструменты-агенты агрэсывна расширваюць контекст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі.

7. Шырэйшая разработка

Этап «7 Faster Development» працюе найэфектывней, калі яго спрыяваць як меравальную плошчу. Зберагачыце адны ідеальны прыклад роботы, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням масштаба. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Задаеце ліміты на колькість токенав за раунд і за сесію. Інструменты з агентным падходам агрэсіўна расширваюць контекст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі. Этап «7 Faster Development» працюе найэфектывней, калі яго спрыяваць як меравальную плошчу. Зберагачыце адны ідеальны прыклад роботы, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням масштаба. Запісвайце часы виконання і кост токенав або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівае паказанне костаў з самага пачатку запобегае неспакоўным рахункам, калі процес пераходзіць з дэманстрацыі ў спяльныя сераўеры.

Што мы можам будаваць за дапамогою LangChain?

Для стадіі «Што мы можамы стварыць» неабяжна практычна апранава: перад зменым коду трэба вызначыць данні, адпавядающага за крок адпаведальнага, а таксама критэрыі завершэння. Аператары должны магчымаць перзапуск кроку з вядомай точкі контролю, не падозрываючы схованы стан. Конфігурацыю трэба знаходзіць за межамі коду прыемленае. Файлы сераўіса, хранальнікі секрэтных дадзеных і флагі функцыйяў должны быць аднароджаны ў аднам месца, якое аператары можаць пераглядаць, не чытаяўшы весь ланцуг задач. Калі наступны крок — гэта код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя данні з перакананнем схэмы, чым вольныя тэкстовыя апісанні.

1. AI-чатботы

Для стадіі 1 AI-чатботаў неабходна пазначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры перадзеі коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не прабуючы спадарацца пра схованы стан. Неабходна аддзеіставіць дакументацыю як па шляху успеху, так і па шляху вярнення. Перапрыбуткі, людзкі контроль і обработка некоректных паведамленняў є часткай продукту, а не чымсь, што дадаецца пазней. Калі наступны крок — це код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя даны з перакананнем ў схеме, чым вольныя тэкстовыя апісанні.

2. Системы падтрымкі кляўэнтаў

Для стадіі 2 «Системы падкіпства кляўэнтаў» неабходна перад зменым коду адзначыць вхідныя даны, адпаведальнага за шаг і крэтыяры завершэння. Аперацыяныя працавнікі должны магчымае перайсці на выкананне шагу з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест абмежлівых скрыптав. Калі шаг не выканаецца, прычына неудачы должна вказываць на адзін конкрэтны элемент, а не на заплутаны ланцуг задач. Калі наступны шаг — гэта код чы скарынка інструмента, лепш выбіраць структураваныя выходныя даны з перакананнем схэмы, чым вольныя тэкставые выказванні. Для стадіі 2 «Системы падкіпства кляўэнтаў» неабходна перад зменым коду адзначыць вхідныя даны, адпаведальнага за шаг і крэтыяры завершэння. Аперацыяныя працавнікі должны магчымае перайсці на выкананне шагу з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Рэгіструйце час выканання, а таксу токенаў чы запытаў разам з функцыйнальнымі рэзультатамі. Відразувыя даны пра вартасць запобегаюць неспакойным рахункам, калі процес пераходзіць з дэмавай версіі ў спяльныя сераўысы.

3. Аплікацыі з адгэтуваннем генеравання за дапамою дадзэў (RAG)

Кал працуеце над 3-й стадзіяю RAG, спачатку запісайце умовы: неабходныя даннэ, сігнал успеху і тое, што выканаецца у разы частковага нявучнасці. Такі список дапамагае залічыць змяны ў кодзе пазнейша. Храніце настройкі за межамі коду аплікацыі. Файлы сераўнавання, хранальнікі секрэтных дадзэў і флагі функцыйяй должны знаходзіцца ў аднам месцы, куда аператары можаюць пераглядаць іх без неабходнасці чытання всей структуры. Зберагаеце ў кэшы стабільныя інструкцыі системы і схемы інструментаў. Перадача таго ж самога прамэра ёсць частым выклікам затрат ресурсаў.

4. Сістэмы адпаведзення на запытанні ў дасведчэннях

Калі працуеце над 4 стадзямі систем адказвання на запыткі дакументаў, спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выходзіць пад частым неудачам. Такі список пераканае ў тым, што пазнейшыя змены коду будуць чыстымі. Дакументавайце як шлях успеху, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некоректных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам. Зберагайце у кэшы стабільныя інструкцыі системы і схемы інструментаў. Перасылка ідэнтычных прамуслов ёсць частым выклікам для ресурсаў.

5. АІ-агенты

Калі працуеце над 5 стадзямі AI Agents, спачатку запісайце контракт: неабяжлівыя даны, сигнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список дапамагае заліцьваты пазнейшыя змены коду. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, нявыпанне должна паказваць на адну адпаведальнасць, а не на заплутаны ланцужок задач. Зберагаеце у кэшы стабільныя інструкцыі системы і схемы інструментаў. Перадзесланне ідэнтычных даных — частая прычына зайвых витрацоў. Калі працуеце над 5 стадзямі AI Agents, спачатку запісайце контракт: неабяжлівыя даны, сигнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі список дапамагае заліцьваты пазнейшыя змены коду. Запісваеце час выканання і вартасць токенаў або запытак пад функцыйнальнымі рэзултатамі. Відразувая візуабільнасць вартасцей запобегае неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўы.

6. Асобістыя AI-асистэнты

6 асистэнтав AI для персональнага выкарыстоўвання працуюць наякша, калі іх спрыяваць як мерыемую паверхню. Запісаце адна ідеальная версія рэзультата, адзін прыклад неудачы і прыметкі па поверненню да пярвоначальнага стану пры расшырэнні масштаба. Храніце настройкі пазырочна ад коду прыемлівача. Файлы сяродавішча, базы секрэтных даных і флагі функцый должны знаходзіцца ў аднам месцы, куды аператары можаць адбавляць контроль, не чытаючы весь структураны дадзеныя. Задаце ліміт токенав на кожны раунд і на кожную сесію. Інструменты з агентным падходам актыўна расшырваюць контэкст; строгія ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоючыя рахункі.

7. Інструменты для стварэння кантэнту

Этап 7 засобаў для стварэння кантэнту працюе наякша, калі яго спрыяваць як мерыемую плошчу. Зафіксавайце адны ідеальны прыклад, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расширваць масштабы. Дакументавайце як успішны, так і вярнучыся шляхы. Перапрыбуткі, людзкі контроль і обработка некоректных паведамленняў є частью продукту, а не дадатковым элементам для пасляднейшай дапрацоўкі. Задаюце бюджет токенав на кожны раунд і на кожную сесію. Засобы з агентамі актыўна расширваюць контэкст; строгі ліміты не дазволяюць дэмам ператварыцца на неспакоўлівыя рахункі.

8. Системы рэкамендацый

8 стадзіях Систем рэкамендацый лепша працуе, калі яе спрыявае можлівасць вимеры. Перш чым расширваць масштаб, зафіксавайце адны ідеальны прыклад, адзін кейс неудачы і прыметку па вярнэнню да пачатковага стану. Валіце маленькія, тэставальныя элементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач. Задаўце ліміт токенав на кожны раунд і на кожную сесію. Інструменты-агенты агрэсывна расширваюць контекст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі. 8 стадзіях Систем рэкамендацый лепша працуе, калі яе спрыявае можлівасць вимеры. Перш чым расширваць масштаб, зафіксавайце адны ідеальны прыклад, адзін кейс неудачы і прыметку па вярнэнню да пачатковага стану. Запісвайце часы выконання і кост токенав або запытаў разам з функцыйнальнымі рэзультатамі. Відразувыя даны пра косты запобегаюць неспакоўным рахункам, калі процес пераходзіць з дэманстрацыі ў спяльныя сераўеры.

9. Памочнікі для даследжэнняў

10. Системы з калькольнікаямі агентамі

Складовыя LangChain:-

1. Моделі

2. Запросы

3. Ланцюгі

4. Пам’ять

5. Індэксы

10 pages pdf ---- convert to ----->   10 chunks (1chunk/page)

Why?
  -LLM context Limit.
  -Better reterival accuracy.

"MACHINE LEARNING" ---->  [0.23,0.81,0.45,...]
  ( TEXT)                    (Vector)

6. Агенты

Example:

User Question ---> Prompt ---> LLM ---> Answer

But What if  AI needs to --
1. Search the web
2. Query a Database
3. Call an API

We do not always know beforehand which tool will be needed

Заключныя заўважэнні:

Чаклеткі для роботы