Падчыткі да спаку для адзінкавання ў LangChain: короткія адказы, глэбокія дэталі і падступы

Запытанні пад час адзінкавання пра LangChain становяць проблему, калі яны ператвараюцца на празыднікаванне назв класаў. Керувальнікі практык, якія стварылі такія сістэмы, цікавяцца тым, чы можаце вы назваць проблэму, выбраць правыя абстракціі, сказаць, што яшчэ належыць вашам прыкладнаму програмнаму забезпечэнню, і адзначыць адзін спосаб парадкі. Атрыбуты API можу змяніцца; але структура застаецца незменнай.

Эты кялік следуе гэтаму патэрну ў чысці фундаменталай інфармацыі, сообшчэнняў і запытанняў, структураванага выходу, інструментаў, складання элементаў і калькі вправ на чытанне коду. У прыкладах вікорыстоўваецца адна і тая ж заявка ў службу падтрымкі, каб адпаведзі зосталі конкрэтнымі:

Пасля выпуску 14:05 пачынаюцься проблемы з трафікам пад час адплатаў у ЕС. Журналы работы checkout-api фіксуюць прахваты часу пад час вызову payments-svc.

Спрыяйце кожнам пункту як дорабочаму сцэнарыю: короткая адпаведзь на трыдцаць секундаў, глыбэйшыя запытанні і распашчатая частая памылка, калі адпаведзь звучыць правільна, але не ўрахоўвае інжынерскія аспекты.

Раздзел 1: LangChain і вызвы модэляў

Што такое LangChain? Коратка адпаведзь: інструментарый для кампанавання вызваў модэляў з прамптамі, інструментамі, адзысканням дадзеных і кераваннем прабегам. Болей дакладна: гэта не падаўчык модэляў і не замена логіцы продукту. Я ваша прыкладнае рашэння яшчэ і так керуе аутантыкацыяй, тэнантыяй, ацэнкай і тым, што значыць “завершанне” задачы. Памылка: апісваць яе як “LLM” чыста як нешта неабходнае для кожнага вызваў OpenAI.

Калі крашчэ вжыць SDK праўедлівага падаўчыка? Коратка: калі мова ідзе пра адны вызв модэля з стабільнымі прамптамі і без графа інструментаў чы адзыскання дадзеных. Болей дакладна: SDK-які мінімізуюць колькасць элементаў, неабходных для простых функцыяй; LangChain становіць сэнс тады, калі вам патрэбна можлівасць кампанавання, цыклі інструментаў чы спяльныя абстракціі між разнымі падаўчыкамі. Памылка: абгортваць усё “для будучай гнеклівасці” пры тым, калі ўсё ўсё ж няма другог падаўчыка чы другаг этапу.

Прадаўцы проты сяродзеваў проты інтэрфейсу LangChain. Коратка: прадаўцы размешчаюць сяродзевы; сяродзев — гэта конкрэтны канецчык або выбор ваг; інтэрфейс LangChain — гэта перэносны абгортак, які робіць вызывы, стрымінг і пакетную обработку схожымі. Глэбэй: перэноснасць ёсць частковай — асоблівасці інструментаў, якія выкланяюць код, і ліміты токенаў все ўсё застаюцца проблемай. Памылка: думка, што змена параметраў init_chat_model ніколі не змянюе працэсу.

Што робіць init_chat_model? Коратка: ён стварае об’ект чата-сяродзева на адной з назв сяродзева і за неабавязковымі настройкамі прадаўцы.

from langchain.chat_models import init_chat_model

model = init_chat_model(
    "provider:model-name",
    temperature=0,
    timeout=20,
)

Глэбэй: ён централізуе настройкі, тады кантэнт графа залежыць ад об’екта, які можна запусціць, а не ад кліента SDK з жорстка заданым кодам. Памылка: спрыяванне яго як чагось чародзяйскага, што пазбавляе неабходнасці розумець ліміты частоты і вікна кантэксту.

Галоўныя методы вызыву. Короткая версія: invoke для адзінаковага вызыву, stream для токенавання, batch для спісаў, а таксама асінхронныя варыянты, калі гэта падтрымваецца. Болей дакладна: стрымінг зменшае спосаб апрацоўкі вызывоў інструментаў і апдэйтаў UI; батчаванне вплывае на ступень дзейнасці бядаў. Памылка: выкарыстоўванне методу batch, калі патрэбна ануляцыя для кожнага элемента.

Чы рэгулярасць temperature робіць мадэль дэтэрміністычной? Короткая версія: нейкак. Болей дакладна: рэгулярасць temperature вплывае на адыякатнасць, але сэмінг, дэталі выбору прыкладоў і змяны з боку падаёжчыка таксама маюць значэнне. Для аўдыту лепш выбіраць дэтэрміністычныя рэжымы падаёжчыка, калі такія існуюць, і працаваць з ўсёй можлівай пераканальнасцю. Памылка: обяцваць абсалютна ідэнтычныя выходы толькі за дапамогою temperature=0.

Раздзіл 2: Паведамленні і запросы

Чаму выкарыстоўваць об’екты паведамлення замест адной дужай строчкі? Короткая адказ: ролі (сістэма/пользоватэль/асістэнт/інструмент) несу структуру, якой чакаюць прадастальнікі для вызову інструментоў і керавання станам у кальцы.

from langchain.messages import HumanMessage, SystemMessage

messages = [
    SystemMessage(
        "Review tickets using only the supplied evidence."
    ),
    HumanMessage(ticket_text),
]

Болей дакладна: структураваныя паведамлення дазволяюць дадаць рэзультаты інструментоў без неабходнасці перэрабляць строчкі. Памылка: з’еднаванне транскрыпцый у адной большой масе дадзеных карыстальніка і падзея, калі не працуюць цыклы інструментоў.

Шаблоны запітаў проты шаблонамі запітаў у чаце. Короткая адказ: шаблоны строчак фарматуюць тэкст; шаблоны чата фарматуюць спіс паведамленняў з варыяблівамі.

from langchain_core.prompts import ChatPromptTemplate

prompt = ChatPromptTemplate.from_messages([
    ("system", "Classify the ticket. Return the schema."),
    ("human", "Service: {service}\nTicket: {ticket_text}"),
])

Болей дакладна: шаблоны чата падтрымляюць стабільнасць інструкцый сістэмы, калі поля карыстальніка зменяюцца для кожнага запіту. Памылка: хаванне тэксту правілаў, якія можна зменіць, толькі ў паведамленнях карыстальніка, так што ён першы выкарыстоўваецца пад тым пачынкам.

Як дыбагаваць шаблон? Коротка адказ: сформатаваць яго чыраў запуск і абстракцаваць рэзультуючыя паведамленні, не вызываючы модэлю.

value = prompt.invoke({
    "service": "checkout-api",
    "ticket_text": "database connection refused",
})

assert value.messages[0].type == "system"
assert "checkout-api" in value.messages[1].content

Болей дакладна: ствараць кадры фарматаваных паведамленняў у тэстах, каб момантальныя змены не моглі таямна паспусціць зменныя. Памылка: дыбагаванне толькі па чытанню адказоў модэлю.

Раздзел 3: Структураваны выхід

Чаму парсеры / структураваны выхід? Коротка адказ: яны ператвараюць адказы модэлю у вільным тэксце на поля, якія звычайны код можа пераканалізаваць.

from typing import Literal
from pydantic import BaseModel, Field

class TicketClass(BaseModel):
    severity: Literal["SEV1", "SEV2", "SEV3", "SEV4"]
    service: str
    confidence: float = Field(ge=0, le=1)classifier = model.with_structured_output(TicketClass)
result = classifier.invoke(messages)

Болей дакладна: валідаваць схемы, якія падходзяць да таго, як служба падтрымкі запісвае заявкі — ступень серйознасці, паражаныя службы, наступныя дзеяння — а не відкрытыя эсэ. Памылка: парсаванне за дапамою нестабільных рэгулярных выразаў пасля таго, як у прозе было запрасіць «JSON, будзь ласка».

Частая прычына абярона. Модэлі працяюць без певных полей або выдумваюць перыяды. Неабходна захопчыцтва праз адзін раз падаюцья паведамленняя пра бракы, а потым перадача справы чалавеку. Тыхі стандартныя значэння маскуюць інцыдэнты.

Раздзел 4: Інструменты

Што такое інструмент? Коротка адказ: гэта функцыя, якую можа запрашваць модэль, з іменем, апісам і схемай.

from langchain.tools import tool

@tool
def lookup_service(service: str) -> dict:
    """Return the owner and runbook ID for one service."""
    return service_catalog[service]

Болей дакладна адказ: апіс ёсць часткай запіту. Нечыстая інформацыя пра інструменты ведае да ўзлёту ўхідных дадзеных; занадта шырокія інструменты стаюць абавесамі для безпекі. Абярон: выклаканне неапранутага SQL або shell як «гнучкага» інструмента ў дэмаверсіі, якая пазней стае продакшнам.

Як завершаюцца ціклы інструментав? Коротка адказ: максімальная колькасць ітарацый, чысткая задача на выдачу фінальнай адказы або умовы графа. Болей дакладна: завжды ліставаць вхідныя/выхідныя даны інструментаў для аўдыту ў службе падтрымкі. Абярон: необмежаны ціклы на ненадзеяных API.

Раздзел 5: Композіцыя

Што робіць ланкуванне Runnables? Коротка адказ: гэта перадае выход аднае з стадзій да наступнай.

chain = prompt | model | parser
result = chain.invoke({"ticket_text": ticket_text})

Болей даклэ: структура на кшталт LCEL ўсё ж чытабельная, пакуль не з’яўляюцца розгалужэння і павторныя спробы; тады часта лепшая выкорыстоўваць явныя графікі (LangGraph або ручна створаныя машыны станаў). Памылка: глубокая інкапсуляцыя лямбда-функцый, якая не дазволяе тэставаць працэс у серэдзіне пайплайна.

RunnableParallel / групаванне. Выкорыстоўваць паралельную обработку, калі запрашэнне дадзеных і ўдосконаленне метаданоў ёсць незалежнымі. Следзіце за костам: паралельная обработка не ёсць безкоштовной.

Раздзіл 6: Адказы, структураваныя на адпаведнасць запрашэнням

Інтэрв’юеры часта спытаюцца, як LangChain падходзіць да RAG. Короткая адказ: загрузчыкі, роздзелвачы, з’яўляльнікі дадзеных і ланцюгі можу стварыць правільны маршрут; ваша аплікацыя як і раней керуе правіламі часткавання, контролем доступу і ацэнкай. Болей даклэ: цітаваць дасягнутыя документы ў структураванай схеме выходных дадзеных, а не толькі ў прозаўскай форме. Памылка: спрыяжанне “VectorStoreRetriever” з рэальной сістэмай RAG.

Трэнінгі з кодам

Трэнінг 1: Чаго гэта вяртае?

reply = model.invoke([
    SystemMessage("Use only the supplied ticket text."),
    HumanMessage(ticket_text),
])

Обгаворыце тыпы і тое, чы рэальна вызов мадэлі. Большасць фрагментаў толькі фарматуюць запіты.

Трэнінг 2: Чаго гарантуе парсер?

chain = prompt | model.with_structured_output(TicketClass)
result = chain.invoke(values)

Разлічыце «прадавець паобяцаў рэжым JSON» ад «вааша схема павераная».

Трэнінг 3: Чаго не хапяе ў гэтым інструменце?

@tool
def ticket(action: str, payload: dict) -> dict:
    """Do ticket operations."""

Шукайце нехватку докстрынгаў/схемы, побачныя эфекты або прасочанні ў аўтэнтыфікацыі — служба падтрымкі не должна вызываць refund_all без ідэнтыфікатора тыка.

Трэнінг 4: Можна лячыць гэтыя вызывы адночасова?

owner = lookup_owner(service)
incidents = recent_incidents(service)

Размышляйце пра спяльны стан, ліміты частоты і тое, чы безпечны паралельны вызыв для адной жа ніткі размовы.

Трэнінг 5: Чаго не хапяе ў гэтым адказе RAG?

docs = retriever.invoke(question)
answer = model.invoke(format_prompt(question, docs))

Зазвычай: цітаты, фільтры доступу або шлях для запрашэння даных, які павінен адмовіць у выдачы інфармацыі, замест таго каб ствараць выдуманыя правіла працы.

Як практыкуватыся без запам’ятовывання API

Выберыце дзесяць запітанняў і адпавядайце на яны вголас, калікуючы час на короткія адпаведзі. Праз тое дадзіце болей глыбокія адпаведзі толькі калі з’являюцца дапаможныя запытанні. Ведзіце персональны каталог неудач, якія вы бачылі — порожніе рэзультаты запрашэння, галюцынаціі інструментаў, міфы пра параметры — таму што спрашчыкі лепей памятаюць історыі, чым шляхі імпорту.

Калі назва API змянілася з моменту вашага паканальнага праекта, сказайце пра гэта. Фраза «У нынешнім LangChain гэта init_chat_model; раней мы самі налаштавалі кліента-прадаўця» паказвае, што вы сачыце за змянамі, а не прыкрэпляецеся да старых інструкцый.

Што спакойнае адпаведзі маюць спанулярна

Яны выходзяць з адносна пашкоды карыстальніка службы падтрымкі, а не з назвы пакета. Яны раздзеляюць додатковыя функцыі фрэймворка ад адпаведнальнасці сістэмы. Яны называюць альтэрнатывы: затрымка проты выключнасці, автонамія проты можлівасці аўдыту, перэноснасць проты функцый прадаўцы. Яны заканчоўваюць тым, як будуць пераканвачвацца ў правільнасць адпаведзення ў стаджэнтным рэжыме — за дапамой фіксатароў, трэйсаў чы сэтакаў для ацэнкі, а не фразай «мы будзем сочыць за гэтым» як узневажальным адказам.

Спаўненне запытанняў з адпаведнымі сцэнарыямі службы падтрымкі

Існуючую перабояўку пад час аплатаў у ЕС выкорыстоўваюць як основу. Модэлі калектавання дадзеных класыфікуюць ступень серйознасці. Шаблоны запытанняў уключаюць назвы служб. Структураваны выхід стварае чэрнавік заявкі. Інструменты запоўняюць лог-файлы з payments-svc. Ланцюгі чы графыкі складаюць адпаведзенне з рэчніку. Сістэма запоўняе інфармацыю з аналізу перабояўкі праз квартал. Кожная абстракцыя мае свою прычыну ў рамках гэтай наратыўны лініі, і самэ так трэба адпавядаць, калі сесыя на дошцы праекта затрымляецца.

Калі спакавальнік перэйдзе да LangGraph, застаўце тую ж структуру: даныя з квіткамі зберагаюцца, вузлы класіфікуюць і выкарыстоўваюць іх, а умовныя рэшткі павышаюцца, калі доверлівасць нізкая. Вам не трэба перыясняць кожную класу — проста пакажыце, што вы разумееце, калі лінейны ланцуг больш не падходзіць.

Спіс пераконтраўкі перад спакаваннем

• Паспяшнаяянуце LangChain ў адной фразе, не называючы яго LLM.
• Знаеце, калі трэба прыхіліцца да простага вызову SDK.
• Фарматавайце запіт для чата і пакажыце прыемліваныя паведамленні.
• Нарэштуйце схему інструмента, якая не можа вывезць секрэты.
• Апісайце, як вы тэстуеце шлях RAG з порожнім выкарыстоўванням.
• Адзначыце, што тэмпература не гарантуець.
• Расскажыце адну історыю з практыкі, дзе стэйсы перамагаюць здогадкі.

Практыкуйце гэтыя семь пунктов, і трыдзіцяць пяць прамов вышэй стануць варыяцыямі на адну тэму, а не простаю меморызацыяй. Мета — не звучаць як дакументацыя. Мета — звучаць як чалавек, які вжо выканаў заведамленне па дапомозі асістэнта тэлефоннай службы падтрымкі і яшчэ памятае, дзе ён зламаўся.

Дапаможныя прыметкі для практыкавання фундаментальных навыкаў

У канферэнціях з адбору часта спачатку даюць вызначэнняя, каб заспакоіць усіх прысутных, а потым пераходзяць да тэмы зламоў. Падготавіце і тое, і другое. Да пытання «Што такое Retriever?» дайце адпаведзенне, прыкладжанае да інтэрфейсу — введзенне запіту, выдача дакументаў — а потым негайна паведаміце, як вы оцэнюеце порожнія рэзультаты ў працэсе адпаведнай дапомогі. Да пытання «Што такое Дакумент?» упамяніце адметнай тэкст старонкі плюс метаданы, а потым сказаце, якія поля метаданаў вам патрэбны для цытатаў і фільтраў ACL.

Будзьце гатовыя парабіраць адпамогі стылю ConversationalRetrievalChain з ручная створанымі LCEL або шляхамі графа. Адпамогі падходзяць для пратотыпаў. Ручная створаныя шляхі ёсць лепшым выбрам, калі вам патрэбны спецыяльныя альтэрнатыўныя рашэння, індэксы для кожнага корыстувальця або структураваныя выходны даныя, якія включаюць спісы цытатаў.

Што стосуецца памяці: разлічвайце буферы історыі чату ад памяці, якая зберагаецца на дыску. Адпамогі службы падтрымкі, якія «памяцяюць» інфармацыю пра гэты час, патрабуюць стойкага зберагача і механізмаў маскавання, а не толькі спіску ў памяці. Адзначыце, як вы запобегаеце прасачэнню персональных даноў у дырэктарыях давялога зберагача.

Што стосуецца ацэнкі: назвіце офлайн-тэсты («золатыя квіты»), онлайн-трагі і наборы тэстаў на рэгрэсію, якія запускаюцца, калі змінююцься запіты. Калі вы вжывалі LangSmith або ўзельніцу, опісаце адны сігнал з панелі керування, на які вы фактычна дзеялі — падвышэнне затрымкі пасля дадання новага інструменту або спад у колькасці цытатаў.

Па версіяванні: фіксавайце версіі пакетаў, зазначайце хэшы запыткаў пад кожным розглядзеным білдам і адмовяйцеся ад дыбаггавання “прадакшнальных” сістэм на незафіксаваных нотбуках. Тэхнічныя эксперты, якія страдалі ад тыхоўых апдэйтаў, спадабаецца такой адказ.

Па безпекі: спіс дазволеных інструментоў, філтры выходных данаёнаў для мовы вярнення грошаў і людзкая апрацовка дзеянняў з вялікім уплывам трэба паказаць у аналізе. LangChain спрыяе прыемнаму падключэнню інструментоў; ён не выбірае вашу політыку рызыка.

Па налашоўкам з калькольнікасцю падаёнаў: адказайце на адну конкрэтную прычыну, чаму вы абстрагавалі працэс стварэння модэляў — цэна, рэгіон чы перэход на альтэрнатыўны выхад у разы збою — і на адну прымету, якая застаўалася рознай пасля абстракцыі, напрыклад фарматаванне вызоў інструментоў. Чыстасць ў адказах пра можлівыя прасачанні крашчая, чым тверджэння пра абсалютную перэноснасць.

Па стрымінгу да UI-ў: паведамце, што частковыя вызывы інструментаў выклікаюць патрэбу астатковага карыстоўніка для ўсунення проблем, і што трэба чакаць, пакуль не будзе заполнены ўсі даныя інструмента, прычаму паказваць спінер для payments-svc можна толькі пасля гэтага. Маленькія дэталі свідчаюць пра справжню працу над адкаліканням.

Па тэставанні: пакажыце, што можна адкалікаваць чыстыя функцыі, якія выкарыстоўваюцься ў графе — класыфікаторы серйознасці, фарматары цытатаў — без імітавання усяго прадаўцы. Інтэграцыйныя тэсты трэба заставіць на справжнім шляху вызыву.

Этыя прытакі не ўжо окрэмыя запытанні; гэта дапамога, якая апавярцаецца, калі спытальнік кажа «расскажыце больш». Храніце іх кароткімі, прыязначанымі да заявкі на адгук і без прахалення партнера. Самэй так запытанні пра фундаменталы ператвараюцца ў практычныя пропозыціі. Храніце адказы конкрэтнымі, цытавайце заявку і валічыце історыі парабяжання над хвалой фрэймворку на рэверансны ўзлёт.

Характэр адказоў павінен быць конкрэтым, неабходна цітаваць тыкет, і лепш выкарыстоўваць прыклады парабярання, чым простыя хвалебныя заўважэння на рэжыме.Кантэкстуальныя апавяданні па верыфікацыі прыважныя над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях. Характэрызуйце адказы конкрэтна, цітуйце тыкет і прыважайце кантэкстуальныя апавяданні па верыфікацыі над хвалой фрэймворку на рэваліцыях.Хваляць фрэймворк трэба конкрэтна. Неабяжно наводзіць канфігурацыю задачы, а таксама валічыць історыі прабавы над хвалянням фрэймворка на рэваліцыйны лэвэл.Характэр адказоў павінен быць конкрэтным, неабходна цітаваць тыкет, і лепш выкарыстоўваць прыклады парабярання, чым простыя хвалебныя заўважэння на рэжыме.Прынцыпавайцеся на прыкладах парабярання, а не на простых хвалебных заўважэннях ў фармаце слоганаў. Чыніце адказы конкрэтнымі, цытавайце відпаведны тыкет і вядзьмі прыклады парабярання ў прыватнасці, а не простыя хвалебныя заўважэння.