Чатбот проты АІ-агента: што на самай справе адзеляе іх за межамі LLM
З’ярозумейце, чаму асалёгічная разліка межа чатботамі і агентамі AI крыўцяцца ў архітэктуре супакоўанага системы — інструментах, планаванні і дзеяннях — а не самай моцной мовнай модэлі.
Якща вы пачаткаеце працаваць з генератыўскім ІІ або агентным ІІ, верагодна вы сталкнуліся з двума тэрмінамі, які выглядаюць перакрытымі:
Чатбот
Агент ІІ
На першы погляд, яны можу здацца там самым.
Оба розумеюць нейтаральную мову. Оба можу працаваць на адной LLM. Оба спроможны адпавядаць на запытанні.
Што паднімае прыродны запытанне:
Якщо яны оба спакоююцца на LLM, што на самай справе адзначае розніцу межы агента ІІ і чатбота?
Адпаведзь мае значэнне, таму што гэта разлік зазвычай не вынікае з самой модэлі.
Ён вынікае з супакоюючай системы — таго, што будуецца наваколо модэлі, і таго, што гэтая система ў канцы канцоў можа робіць.
1. Пачнём з таго: што на самай справе робіць LLM?
Перш чым параграфіцаваць чат-ботаў і агентаў, корыстна ясназначыць ролю, яку выпалоявае LLM (Large Language Model).
У сваій сутнасі LLM займаецца розумэннем і стварэнням мовы.
Падазроўваючы, што хтось прасі модель паясніць, чаму адпаведны рейс запаздаліў, LLM можа распакаваць такы запит і даць цялесупраўную, натуральна звучацьчую адпаведзь.
Аднак сама по сабе LLM не мае вбудованага розумэння такіх рэчаў, як:
- Канкрэтны рейс, пра які ідзе мова
- Дакладныя вучынкі чынныя бронівання
- Внутранія системы організацыі
- Як перебронаваць рейс
- Як склаць і адправіць электрана
- Як дадаць ў часовы календар
Ёнколі гэта мае стаць рэальнасцю, LLM павінен быць наляганы на зовнішнія даны, інструменты, прыкладнікі та можлівасць выкарыстоўваць дзеяння — і самэ гэта ў тым месцы, дзе чатботы і агенты пачынаюць разлічвацца.
2. Апісанне чатбота
Чатбот — это, по суты, інтэрфейс для дыялогу — спосаб для корыстувачаў ведаць абмен кантэнтамі на прыродным языку.
Основны прынцып ўжо досыта просты:
Узглядзім пакупніка, які хочаць дазнацца, калі працюе падтрымка. Чатбот можа адпаведзець, што з падтрымкай можна супрацаваць у рабочыя дні, прыблізна з 9 ранку да 6 вечара.
У гэты момент чатбот выканаў свою задачу.
3. Апісанне AI-агента
AI-агент заходзіць да большых рэзультатаў.
У працоўніку не толькі вяртаецца адпаведзь, але ён ствараецца для таго, каб дасягнуць пэўнага рэзультата.
Таму замест таго, каб проста запытаць пра час вылету рэйса, запыт можа звучаць так:
«Патрэбна пераконтраць завтрашні рэйс на наявнасць запазджэнняў; якщо ён запаздзяе, знайсці альтернатыўныя рэйсы і паказаць доступныя варыянты.»
Каб справіцца з гэтым, системе можа знадобіцца:
- Выявіць, якае бронюванне є актуальным
- З’ясавіць інформацыю ў системе авіакомпаніі
- Прыняць актуальны статус рэйса
- Выявіць, чы є запазджэнне
- Знайсці альтернатыўныя рэйсы
- Пораўняць гэтыя альтернатывы
- Аддаць рэзультат
Важна згадаць, што системе можа знадобіцца сама выявіць свой наступны крок, а не следаваць фіксаванаму сценарыю.
Гэта і є справжній перыядок.
4. Чатбот проты агента — конкрэтныя пораўнанні
Разглядзім сцэнарый падтрымкі кляўэнтаў.
Чат-бот
Кліент запытаецца:
„Якая політыка варыцьбы?“
Чат-бот выкарыстоўвае сваія знання і адпавядае:
„Товары можна варыць прыблізна за 30 дней пасля пакупкі.“
Гэта ўсё, што адбываецца у гэй размове.
АІ-агент
Тепер розглянем болей шырокі запит, які описвае цэлую задачу: варыць пару науснікаў, пераканацца, чый гэты вароткі падпадае пад правіла, запусціць процэс варыцьбы, створыць етикетку для адправкі і організаваць выявленне товару.
У такім случае агенту можа знадобіцца:
Гэта вже не проста замена товару.
Это ўсё частыні працоўага процесу.
5. Асновная разліка: адпаведзь vs дзеянне
Такое падача часта застаецца у вжыцці.
Чат-бот
Запыт → Адпаведзь
Агент
Цель → План → Інструменты → Дзеяння → Рэзультат
Прыткая формулайна, якую варта запам’ятаваць:
Чат-бот размовляе з вамі. Агент працюе для вас.
Это не строгая тэхнічная дэфініцыя, яка падходзіць для кожной рэалізацыі, але гэта надзейны ментальны спрощэння.
6. Чы гэта на самай працоўвае ўнутрь агента?
Тыповая система агентоў складаецца з калькольных элементаў.
① LLM
LLM выступае як механізм разумовых расчынкаў і працы з мовай.
Ён адпавядае за інтэрпретацыю:
- Таго, чаго на самай працоўвае корыстнік
- Актуальнага контэксту
- Даступной інформацыі
- Таго, што можна зрабіць далей
② Інструменты
Агенты можна пад’яоўваць да зовнішняйх інструментаў, такіх як:
- API-я
- Базы дадзенаў
- Сістэмы CRM
- Электранявіску
- Календары
- Пошук
- Сераўсы для выканання коду
Гэтыя з’ўязкі дазваляюць агенту фактычна выходзіць у саўеты з рэальным светам і взаімацься з яго.
③ Планаванне
Складны запит часта трэба разбіваць на меншыя часткі.
Напрыклад, аранжаванне зустрэчы з кліентам паўтараецца не ў аднай стадзіі.
Ёжы ўсё гэта агенту можа знадобіцца вырашыць такія пытанні, як обмежэння часу, учаснікі і таймінг.
Планаванне — гэта тое, што дазваляе системе перайсці ад аднаго адказу да багатаступеневай екзекуцыі.
④ Памяць / Контэкст
Агенты часта патрабуюць выкарыстоўваць ранейшыя взаімадзеі або деталі трываючых заданняў.
Напрыклад, запит на броніраванне той самай зустрэчы, якая адбылася ў паканунку, вымагае, каб система запамятала достатню колькасць контэксту, каб зрозумець, на шта натыкаецца мова пра „той самы тип“.
Памяць і контэкст дапомагаюць агенту заставацца стабільным пад выкананні задачы.
⑤ Дзеяння
Гэта, можа, найцікавейшая частка агента.
Уместо таго, каб проста зазначыць, што неабяжна адкорректавація запису в CRM, агент можа адкорректаваць сам CRM.
Уместо таго, каб запропанаваць аранжаванне зустрэчы, ён можа адразу ж аранжаваць зустрэчу.
Корача кажучы, система пераходзіць з давання рэкамендацый на выкаанне дзеяння.
7. Порэванне двух архітектур
Ёсць просты спосаб пераказаўкі обох систем.
Чатбот
AI Агент
Заўважыце, што архітектура агента включае цыкл зворотнага звязку.
Агент можа спазірваць рэзультат дзеяння і выкорыстоўваць гэтую інфармацыю, каб адначасова вырашыць, што далей.
8. Чы всі чат-боты выкарыстоўваюць LLM?
Зовсім не трэба.
Этае разліканне мае значэння.
Ранейшыя чат-боты часта будаваліся на:
- Логіцы, базаванай на правілах
- Дрэвах рашэння
- Падборы ключоўых слоў
- Фіксаваныя, заздалега заданыя адпаведзі
Напрыклад, запит на перазначэнне пароля могаў проста заканчыцца інструкцыяй нажміць на паведамленне з номерам.
Сярод новейшых чат-ботаў все больш выкарыстоўваюцься LLM, што робіць кантакты значна болей натуральнымі і адпрацоўванымі.
Таму можна сказаць:
Чат-бот не павінен прынцыпова выкарыстоўваць LLM
але самэ LLL і ўраджвае, што сучасныя чат-боты выглядаюць набаго болей спроможнымі.
9. Чы всі AI-агенты патрабуюць LLM?
Знову ж, не абавязкова.
Агент — гэта досыць шырокі тэрмін.
У той час як у контэксте сучаснай Агентскай ШІ LLM зазвычай являецца тым элементам, які адпрацоўвае цялі, выбірае інструменты і прыме рашэння пра наступныы крок.
Прыемны спосаб яго апісання:
LLM = слой інтэлекту та мовы; Агент = система, створаная на аднойчыні з гэтым інтэлектам для досягнення цялей та выканання дзеянь**
10. Не йдзе пра тое, калі адны элементы „лепшыя“, чым іншыя
Сюды ж часта збіваецца вэсь цых дыскусый.
Чат-бот не ёсць меншым варыянтом агента.
Яны створаны для рашэння разных типаў задач.
Запыт пра часы роботы не выклікае патрэбу ў абсалютна автонамным агенте — чат-бот ідзямо справа з гэтым.
Але запчынка на кшталт пошуку найбліжэйшага центра абслужвання, пераконтроўкі наявнасці вольнага часу завтра, броніравання і адправкі падтверджэння ўсё гэта ёсць багатоэтапная задача.
Самэ гэта ў тых ситуацыях, дзе падход з викорыстаннем агентаў дзейсна дае рэзультаты.
11. Короткае паўсторонніе порашчэнне
Спадневана літэратура
- Розумеўце AI-агентаў: цялі, інструменты, память і цикл агента — простае для пачатківаўцаў адгледжэнне таго, як AI-агенты разлічаюцца ад чатботаў, з розглядам ключоўых складовых, циклу прыняцтва рашэння, рываў автонаміі і практычных прыкладаў ўжывання.