Галоўная / Артыкулы

LangChain Серыя 1: Розумеўце модэляў, запросаў, ланцаў

Серыя LangChain частка 1: поясненні модэляў, запросаў, ланцаў, памяці, індэксаў і агентаў, а таксама тое, што можна стварыць за дапамогай LangChain і LLM з самага пачатку.

Выдавец: REACTAPP.TOP9 хв чытання2032 слоў

Крыніцы: 🚀 LangChain Series #1: Understanding Models, Prompts, Chains, Memory, Indexes, and Agents

Існавайце гэта як перапрацоўаны варыянт ідэй з кнігі “LangChain Series #1: Understanding Models, Prompts, Chains, Memory, Indexes, and Agents” для аператараў: чыткія этапы, арранжаваныя блакі коду і прыметкі па вяснаванню, якія застаюцца пасля перадачы. Этап “Адгледжэнне” найкрашча працюе, калі яго розглядаць як мерыябельную плошчу. Запісайце адна ідэальная транскрыпцыя, адзін прыклад неудачы і прыметкі па атрыбуцыі да пачатку працы, прычаму не расшыруючы масштаб. Запісвайце час выканання і вартасць токенав або запытаў праза функцыйнальныя рэзултаты. Відразувая вартасці запобегае неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўысы.

Введэнне ў Langchain:

Для этапы «Введэнне ў LangChain» неабходна прадзефінавацыя вхідных дадзеных, адпаведнага власніка крока і крэтарыяў завершэння працы перад зменым коду. Аперацыйныя працавнікі должны магчымае перзапускаць крок з вядомай точкі контролю, не прабуючы выявіць схованы стан. Конфігурацыю трэба залічыць паза кодам прыемленае. Файлы серавэра, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, якое аперацыйныя працавнікі могу пераглядаць, не чытаючы весь граф. Калі наступны крок — гэта код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя даныя з пераканальванням схемы, чым вольныя тэкстовыя апісанні.

Корыстнае прызначэнне LangChain:

Для этапы LangChain Benefits неабяжна ўзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры зміне коду. Аперацыйныя працавнікі павінны магчымае перазапускаць крок з вядомай точкі контролю, не прабуючы спадарожваць схованы стан. Неабяжна аддакуваць документацыю як пра успішны, так і пра патэнтны ход працы. Перапрыбуткі, людзкія перакрыцці і апрацоўка некорэктных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней. Калі наступны крок — гэта код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя даны з перакананнем схэмы, чым вольныя тэкстовыя апісанні.

1. Незалежнасць ад модэляў

Для этапы 1 «Незалежна адаптаванасць да модэляў» неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест большых скрыптов. Калі крок не выканаецца, прычына неудачы должна вказываць на адзін конкрэтны элемент, а не на заплутаны ланцуг задач. Калі наступны крок — гэта код чыя-небудзь вызов інструмента, лепш выкарыстоўваць структураваныя выходны даны з перакананнем ў ўсасці шэмы, чым вольныя тэкстовыя апісанні. Для этапы 1 «Незалежна адаптаванасць да модэляў» неабходна перад змянай коду адзначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння. Аперацыйныя працавнікі должны магчымае перайсці на выкананне кроку з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Рэгіструйце час выканання, а таксу токеноў чы распытак пры кожных функцыйнаых рэзультаатах. Відразувыя даны пра вартасцы запобегаюць неспакоўным рашчыткам, калі працэс пераходзіць з дэмавай версіі ў спяльныя асяроддзя.

2. Падзеры запытак, якія можна выкарыстоўваць знову

Калі працюеце над стадзіяй 2 «Падзеры запытак, якія можна выкарыстоўваць знову», спачатку запісайце умовы: неабяжныя даны, сігнал успеху і тое, што выходзіць на падзею частковага невыпання. Такі спіс дапамагае заліцварыць пазнейшыя змены ў кодзе. Зберагаюце настройкі праза код аплікацыі. Файлы сераўнавання, хранільнікі секрэтных дадзеных і флагі функцыйяў должны знаходзіцца ў аднам месцы, куда аператары можу пераглядаць іх без неабяжнага чытання всей структуры. Зберагаюце у кэшы стабільныя інструкцыі сістэмы і схемы інструментаў. Перадача таго ж самога прамаргіналу ёсць частым выклікам расходавання рэсурсаў.

3. Апростаныя рабочыя працэсы AI

Калі працуеце над 3 стадзяміі спрошчаных алгорытмаў AI, спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выканаецца у разе частковага нявыпалення. Такі спіс пераканаецца дапамагае залічываць усе змянення ў кодзе.

4. Аплікацыі, якія ведаюць кантэкст

Калі працуеце над 4-м стадзіям «Програмы, які врачаюць кантэкст», спачатку запісайце умовы вярбунка: неабяжлівыя даныя, сігнал успеху і тое, што выходзіць пад частковыя неудачы. Такі спіс дапамагае заліцварваць пазнейшыя змены ў кодзе. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, неудача павінна вказваць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Зберагаеце у кэшы стабільныя інструкцыі сістэмы і схемы інструментаў. Перадзял у тое ж самае прамэру — частая прычына зайвых вітрацоў. Калі працуеце над 4-м стадзіям «Програмы, які врачаюць кантэкст», спачатку запісайце умовы вярбунка: неабяжлівыя даныя, сігнал успеху і тое, што выходзіць пад частковыя неудачы. Такі спіс дапамагае заліцварваць пазнейшыя змены ў кодзе. Запісвайце час выканання і вартасць токенаў або запытак пад функцыйнальнымі рэзултатамі. Відразувая візуабільнасць вартасцей запобегае неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўы.

5. Эфектывае выкарыстоўванне знанняў

Этап 5 «Эфектыўнае выкарыстанне ведамасцей» працюе наякша, калі яго розглядаць як мерыемую велічыну. Запісаце адна ідэальная версія рэзультата, адын случай неудачы і прыметкі па поверненню да попярэднья стану пры расшырэнні масштаба. Храніце настройкі пазырочна ад коду прыемліка. Файлы сяродавішча, базы секрэтных даных і флагі функцый должны знаходзіцца ў аднам месцы, куды аператары можаць адрабатаваць без неабяжнага чытання всіх дадзеных. Задаце ліміт токенаў на кожны раунд і на кожную сесію. Інструменты з агентным рэжымам актыўна расшырваюць кантэкст; строгі ліміты не дазволяюць, каб дэманстрацыі ператварыліся на неспакоўныя рахункі.

6. Автонамныя рашэнні

6-й этап автонамнага прыняцьбы рашэнняў работае наякша, калі яго спрыяваць як мерыемую паверхню. Запісаце адна ідэальная версія, адзін прыклад неудачы і прыметку па адвярненню перад расшырэнням масштабаў. Дакументавайце як успішны, так і вярнучыся шляхы. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не наступным этапам дапрацоўкі. Задаце бюджэт токенав на кожны рунг і на кожную сесію. Інструменты-агенты агрэсывна расшырваюць кантэкст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі.

7. Шырэйшая разработка

Этап «7 Faster Development» працюе найэфектывней, калі яго спрыяваць як меравальную плошчу. Зберагачыце адны ідэальны прыклад працы, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням масштаба. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адну конкрэтную адпаведальнасць, а не на заплутаны ланцюг задач. Задаеце ліміты на колькасць токенав за раунд і за сесію. Інструменты з агентным падходам агрэсіўна расшырваюць кантэкст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі. Этап «7 Faster Development» працюе найэфектывней, калі яго спрыяваць як меравальную плошчу. Зберагачыце адны ідэальны прыклад працы, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перад расшырэнням масштаба. Запісвайце часы выканання і кост токенав або запытаў разам з функцыйнальнымі рэзультатамі. Відразлівае паказанне костаў з самага пачатку запобегае неспакоўным рахункам, калі працэс пераходзіць з дэманстрацыі ў спяльныя сераўеры.

Што мы можам будаваць за дапамогою LangChain?

Для этапы «Што мы можамы стварыць» неабяжна практычна апранава: перад зменым коду трэба вызначыць даныя, адпавядаюшчага за крок адпаведальнага, а таксама крытэрыі завершэння. Аператары должны магчымаць перзапуск кроку з вядомай точкі контролю, не падозрываючы схованы стан. Конфігурацыю трэба знаходзіць за межамі коду прыемленае. Файлы сераўіса, хранальнікі секрэтных дадзеных і флагі функцыйяў должны быць аднароджаны ў аднам месца, якое аператары можаць пераглядаць, не чытаяўшы весь ланцуг задач. Калі наступны крок — гэта код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя даныя з перакананнем схэмы, чым вольныя тэкстовыя апісанні.

1. AI-чатботы

Для этапы 1 AI-чатботаў неабходна пазначыць вхідныя даны, адпаведальнага за крок і крэтыяры завершэння пры перадзеі коду. Аперацыйныя працавнікі должны магчымае запускаць крок з вядомай точкі контролю, не прабуючы спадарацца пра схованы стан. Неабходна аддзеіставіць дакументацыю як па шляху успеху, так і па шляху вярнення. Перапрыбуткі, людзкі контроль і обработка некорэктных паведамленняў ёсць часткай продукту, а не чымсь, што дадаецца пазней. Калі наступны крок — гэта код або вызов інструмента, лепш выкарыстоўваць структураваныя выходныя даны з перакананнем ў схеме, чым вольныя тэкстовыя апісанні.

2. Сістэмы падтрымкі кляўэнтаў

Для этапы 2 «Сістэмы падкіпства кляўэнтаў» неабходна перад зменым коду адзначыць вхідныя даны, адпаведальнага за шаг і крэтыяры завершэння. Аперацыяныя працавнікі должны магчымае перайсці на выкананне шагу з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Лепш выбіраць маленькія, тэставаныя елементы замест абмежлівых скрыптав. Калі шаг не выканаецца, прычына неудачы должна вказываць на адзін конкрэтны элемент, а не на заплутаны ланцуг задач. Калі наступны шаг — гэта код чы скарынка інструмента, лепш выбіраць структураваныя выходныя даны з перакананнем схэмы, чым вольныя тэкставые выказванні. Для этапы 2 «Сістэмы падкіпства кляўэнтаў» неабходна перад зменым коду адзначыць вхідныя даны, адпаведальнага за шаг і крэтыяры завершэння. Аперацыяныя працавнікі должны магчымае перайсці на выкананне шагу з вядомага пункта контролю, не спрабоўваючы здагадвацца пра схованы стан. Рэгіструйце час выканання, а таксу токенаў чы запытаў разам з функцыйнальнымі рэзультатамі. Відразувыя даны пра вартасць запобегаюць неспакойным рахункам, калі працэс пераходзіць з дэмавай версіі ў спяльныя сераўысы.

3. Аплікацыі з адгэтуваннем генеравання за дапамою дадзэў (RAG)

Кал працуеце над 3-й стадзіяю RAG, спачатку запісайце умовы: неабходныя даныя, сігнал успеху і тое, што выканаецца у разы частковага нявучнасці. Такі спіс дапамагае залічыць змяны ў кодзе пазнейша. Храніце настройкі за межамі коду аплікацыі. Файлы сераўнавання, хранальнікі секрэтных дадзэў і флагі функцыйяй должны знаходзіцца ў аднам месцы, куда аператары можаюць пераглядаць іх без неабходнасці чытання всей структуры. Зберагаеце ў кэшы стабільныя інструкцыі сістэмы і схемы інструментаў. Перадача таго ж самога прамэра ёсць частым выклікам затрат рэсурсаў.

4. Сістэмы адпаведзення на запытанні ў дасведчэннях

Калі працуеце над 4 стадзямі сістэм адказвання на запыткі дакументаў, спачатку запісайце контракт: неабходныя даны, сігнал успеху і тое, што выходзіць пад частым неудачам. Такі спіс пераканае ў тым, што пазнейшыя змены коду будуць чыстымі. Дакументавайце як шлях успеху, так і шлях вяснавання. Перапрыбуткі, людзкія контралі і обработка некорэктных паведамленняў ёсць часткай продукту, а не пазнейшым дапрацоўкам. Зберагайце у кэшы стабільныя інструкцыі сістэмы і схемы інструментаў. Перасылка ідэнтычных прамуслов ёсць частым выклікам для рэсурсаў.

5. АІ-агенты

Калі працуеце над 5 стадзямі AI Agents, спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс дапамагае заліцьваты пазнейшыя змены коду. Валіце маленькія, тэставаныя елементы замест большых скрыптов. Калі якісь крок не выйшае, нявыпанне должна паказваць на адну адпаведальнасць, а не на заплутаны ланцужок задач. Зберагаеце у кэшы стабільныя інструкцыі сістэмы і схемы інструментаў. Перадзесланне ідэнтычных даных — частая прычына зайвых вітрацоў. Калі працуеце над 5 стадзямі AI Agents, спачатку запісайце контракт: неабяжлівыя даны, сігнал успеху і тое, што выходзіць у разе частковага нявыпання. Такі спіс дапамагае заліцьваты пазнейшыя змены коду. Запісваеце час выканання і вартасць токенаў або запытак пад функцыйнальнымі рэзултатамі. Відразувая візуабільнасць вартасцей запобегае неспакойным рахункам, калі праця пераходзіць з дэмаверсіі ў спакульнаныя сераўы.

6. Асобістыя AI-асістэнты

6 асістэнтав AI для персональнага выкарыстоўвання працуюць наякша, калі іх спрыяваць як мерыемую паверхню. Запісаце адна ідэальная версія рэзультата, адзін прыклад неудачы і прыметкі па поверненню да пярвоначальнага стану пры расшырэнні масштаба. Храніце настройкі пазырочна ад коду прыемлівача. Файлы сяродавішча, базы секрэтных даных і флагі функцый должны знаходзіцца ў аднам месцы, куды аператары можаць адбавляць контроль, не чытаючы весь структураны дадзеныя. Задаце ліміт токенав на кожны раунд і на кожную сесію. Інструменты з агентным падходам актыўна расшырваюць кантэкст; строгія ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоючыя рахункі.

7. Інструменты для стварэння кантэнту

Этап 7 засобаў для стварэння кантэнту працюе наякша, калі яго спрыяваць як мерыемую плошчу. Зафіксавайце адны ідэальны прыклад, адзін прыклад неудачы і запіс пра вярнэнне да пачатковага стану перш чым расшырваць масштабы. Дакументавайце як успішны, так і вярнучыся шляхы. Перапрыбуткі, людзкі контроль і обработка некорэктных паведамленняў ёсць часткай продукту, а не дадатковым элементам для пасляднейшай дапрацоўкі. Задаюце бюджэт токенав на кожны раунд і на кожную сесію. Засобы з агентамі актыўна расшырваюць кантэкст; строгі ліміты не дазволяюць дэмам ператварыцца на неспакоўлівыя рахункі.

8. Сістэмы рэкамендацый

8 стадзіях Сістэм рэкамендацый лепша працуе, калі яе спрыявае можлівасць вімеры. Перш чым расшырваць масштаб, зафіксавайце адны ідэальны прыклад, адзін кейс неудачы і прыметку па вярнэнню да пачатковага стану. Валіце маленькія, тэставальныя элементы замест большых скрыптов. Калі якісь крок не выйшае, прычына неудачы павінна вказываць на адную адпаведальнасць, а не на заплутаны ланцюг задач. Задаўце ліміт токенав на кожны раунд і на кожную сесію. Інструменты-агенты агрэсывна расшырваюць кантэкст; строгі ліміты запобегаюць таму, каб дэманстрацыі ператварыліся на неспакоўныя рахункі. 8 стадзіях Сістэм рэкамендацый лепша працуе, калі яе спрыявае можлівасць вімеры. Перш чым расшырваць масштаб, зафіксавайце адны ідэальны прыклад, адзін кейс неудачы і прыметку па вярнэнню да пачатковага стану. Запісвайце часы выканання і кост токенав або запытаў разам з функцыйнальнымі рэзультатамі. Відразувыя даны пра косты запобегаюць неспакоўным рахункам, калі працэс пераходзіць з дэманстрацыі ў спяльныя сераўеры.

9. Памочнікі для даследжэнняў

10. Сістэмы з калькольнікаямі агентамі

Складовыя LangChain:-

1. Мадэлі

2. Запросы

3. Ланцюгі

4. Памяць

5. Індэксы

10 pages pdf ---- convert to ----->   10 chunks (1chunk/page)

Why?
  -LLM context Limit.
  -Better reterival accuracy.
"MACHINE LEARNING" ---->  [0.23,0.81,0.45,...]
  ( TEXT)                    (Vector)

6. Агенты

Example:

User Question ---> Prompt ---> LLM ---> Answer

But What if  AI needs to --
1. Search the web
2. Query a Database
3. Call an API

We do not always know beforehand which tool will be needed

Заключныя заўважэнні:

Чаклеткі для працы