Агэнцыя проты автаноміі: раз’ясненне двух ключовых ідэй у агентным ІІ

Няўзніклад, з’явілася большая увага да розумэння Агентных AI, і пад час дакладнага аналізу таго, як працуюць AI-агенты, выявляюцца два тэрміны, якія на першы погляд здаюцца майже взаімназаменныя:

Агентнасць.

Автонамія.

На першы пагляд эты два паняванні зліваюцца. Агентнасць вядома як спроможнасць системы дзеяць, прымэняць рашэнні і прагчыць да цялей. Автонамія ж выступае пасля таго і апісваецца як спроможнасць агента знайсці спосаб прыбыць да цялі, выкарыстоўваючы всю наявную інфармацыю і рэсурсы, без таго, каб чалавек кераваў кожным крокам.

Сюды і пачынаецца плутанне. Якщо агентнасць вже включае прымэння рашэнняў і дзеянь, а автонамія таксама стосуецца прымэння рашэнняў і дзеянь, то якая мета ў наявнасці двух адзінаковых тэрмінаў для таго, што выглядае як аднаковая поведзенчасць?

Гэта плутанасць змянілася на корыстны момент навучэння, калі панявыяяныя парадоксы былі раз’яснены.

Спачатку мне трэба было адзельна разлучыць гэтыя два падходы

Спосабам было пераказаць кожны тэрмін простым языкам.

Щодо агэнцыі, пытанне стае такім:

Можа лясць система сама прымець рашэнне і дзейсцаваць ў напрамку меты?

Щодо автаноміі, пытанне стае такім:

На які ступень самастоятельна можа лясць система прымець гэтыя рашэнні і ўжываць іх, калі няма людзі, які бы кераваў кожным етапам?

Это і ўсё, што не хватала. Пад пануваннем розумеюцца магчымасці дзейства і прыняття рашэння; автаномія ж стосуецца ступеня свабоды, якій распаўляецца система пад час выкарыстоўвання гэтых магчымасцей. Калі справа падае так, гэтыя два паняцькі перестаюць перакрывацца і начынаюць описваць разныя вімэры адной і той жа системы.

Агент можа мець пануванне без абсалютнай автаноміі

Прыклад дапамагае гэта уточніць. Спачатку агент-ШІ отрымае мету:

Resolve a customer's payment issue.

Агент ацэнюе ситуацыю і прааналізавае яе:

I should check the payment status.

Потым:

I should retry the failed transaction.

Потым:

I should notify the customer.

У гэтым случае система вырашае, якія дзеяння є правильнымі. Гэты процес аналізу — гэта пануванне.

Тепер уявіце, што той жа агент павінен зупіняцца перад кожным дзеяннем і пераканацца:

Agent:
"I want to check the payment system."

Human:
"Approved."

Потым:

Agent:
"I want to retry the transaction."

Human:
"Approved."

Агент як і ранейш выбірае, што ён хочаць зрабіць далей. Але чалавек застаёцца тым, хто затверджвае кожны крок перад тым, як ён выданы. Такім чынам агент мае свабоду дзеяння, але його автонамія строга адгранічваная.

Тепер падысці автонамію

Тепер дайце тому ж агенту мету замест чартка з завданням:

Goal:
Resolve the customer's failed payment.

І дазвольце яму самаму працаваць па гэтым процесе:

Inspect payment status
        ↓
Identify the problem
        ↓
Choose the appropriate tool
        ↓
Retry the payment
        ↓
Verify the result
        ↓
Notify the customer

Зверніце увагу, што не хапяцца: немае інструкцыі на кшталт

First do this.
Then do this.
Now call this API.
Now check this.
Now send this.

Была вказана толькі мета. Система сама вывучыла последовасць дзеянняў, выкарыстоўваючы інфармацыю і рэсурсы, да якіх ёй быў доступ. Гэты момент, калі автонамія перестае быць абстрактным панявам і стае чымсь, што можна фактычна спазірваць.

Настоямыя пытанні — гэта не толькі:

Чы можа гэта система прымкнуць рашэнні?

Таксама важна ўтварэнчы:

Сколькі людскага надзору яна патрабуе пад час прымкнення та адкрыція гэтых рашэнняў?

Ментальны модэль, які варта зберагчы

Пасля аналізу всіх гэтых вызначэнняў выйшае просты модэль, які ўскораняе розумеенне.

AGENCY

Can I decide and act toward a goal?

І:

AUTONOMY

How independently can I decide and act
without step-by-step human direction?

Гэта ўсё. Не трэба носіць у галаве дзялёга вызначэння.

Агентнасць → спроможнасць.

Автонамія → незалежнасць.

Тады AI-агенты стаюць іншымі

Перад тым, как дасягнуць гэтага моменту, лёгка ўявіць прыклады застосоўання AI як простыя процесы:

User asks something
        ↓
Model generates something
        ↓
User receives response

Але агенты дадаюць ўсё новы, адзінэчны слой.

Сістэма можа мець цель.

У яе можа быць усведамленне пра апошнюе сярэдзіцу.

У яе можа быць інструменты і рэсурсы, якія ў яе распаўсюджэнні.

І замест таго, каб яй адразу падавалі кожны промежуточны крок, яна можа сама вырашыць, какія дзеяння ў яе разумныя.

Это змінюе уявленне пра тое, што такое агент:

GOAL
  ↓
Observe available information
  ↓
Decide what to do
  ↓
Use available resources
  ↓
Take action
  ↓
Continue toward the goal

У рамках гэтага уявлення агентнасць і автонамія выпалююць разныя задачы.

Агентнасць — гэта можлівасць сістэмы прынямаць рашэнні і дзеяць.

Автонамія — гэта ступень незалежнасці, якую яна мае пад час дзеяння.

Чаму гэта разлік важны для інжынераў

Знаёмства адзінай толькі вядомаці рэдка калі выглядае достатнім. Дапамагае дальшае дакладжэнне за допамогою такіх пытанняў:

«Чаму трэба, каб гэты тэрмін існаваў?» «Як ён адрозніваецца ад таго, пра які ўжо говорылася?» «Яку функцію ён насправды выканае внутрь системы?»

Той самы патэрн спостараецца і з паняйомамі «агэнцыя» і «автонамія».

Спачатку ментальная карта можа выглядаць так:

Agency → decision-making
Autonomy → decision-making

???

Калі начнеш розбірацца, што іх адрознівае, ёна стае такой:

Agency
→ capability to decide and act

Autonomy
→ independence in deciding and acting

Тады кожная паняйома займае свой адзінокі месцац у тым, як гэтыя системы моделююцца ў ментальным прасторе.

Гэта набагато корыстней, чым проста запам’ятаваць два визначэння у стылі слоўніка.

Вывад

Найбольшыя змены ў разумеўцы выхадзяць з усвядомлення таго, што система не становіцца автонамной ў той момент, калі стае здатной прымець рашэнне.

Насправдзе існуе два адналежныя пытання, якія варта задаць.

Чы можа система ўзагалі прымкнуць рашэнні і дзеяць для досягнення меты?

Это і ёсьце агэнтнасць.

І:

Якую ступень незалежнасці ўона мае, выкананняя гэтыя можлівасці, калі няма чалавека, які керуе кожным ўздзейсненням?

Это і ёсьце автонамія.

Разлік межа іх є тонкім.

Але калі гэта становіцца зрозумелым, AI-система з агэнтнасцю перестае здавацца такой абстрактной.

Гэта справа ўсё ж такі цякавая у навучэнні ваўзе.

Праказваецца новы тэрмін.

Ёго паддаюць сумневам.

Поручаюць яго з тым, што вядома ўжо.

Тэстуюць яго на слабыя месцы.

І ў канечнай лініі з’яўляецца модэль, якая ўсталяна простая, што можна поясніць іншаму чалавеку без патрэбы апісваць вучальны матэрыял.

Гэта зазвычай є сігналам, што якась ціха адчуваецца ў памяці.

Агэнцыя паведамляе вас, чы рыхтована система можа прымкнуць рашэнне і дзеяць. Аўтаномія паведамляе вас, насколькі незалежна яна можа гэта здарыць.

Супаўзеяныя матэрыялы

• Агэнтныя AI: ад мовных модэляў да автаномных агентаў — структураваны апіс пра тое, як LLM-ы ператвараюцца ў агэнтныя системы за дапамогою інструментаў, памяці, планавання, архітектураў з калькольніка агентаў і інтэграцыі MCP.
• Розумеўце AI-агентаў: цялі, інструменты, память і цыкл агента — простае поясненне таго, чым AI-агенты адрозніццаяд чатботаў, з акцэнтам на ключовыя складовы, цыкл прымкнуць рашэнне, адзінства і практычныя прыклады выкарыстання.