Управління штучними інтелектуальними агентами за допомогою фреймворку CARE: чіткість, автономія та інше
Керування штучними інтелектуальними агентами за допомогою фреймворку CARE: чіткість, автономія, взаємини та рівність у застосуванні до делегування, контрактів агентів, вибору моделей та контексту.
Джерела: You Already Know How to Manage Agents: The CARE Framework for AI Engineering
Навчання керівників іноді передбачає матеріал, який застосовується до програмного забезпечення більш прямо, ніж очікується. Фреймворк CARE з навчання лідерства, що складається з чотирьох принципів — Чіткості, Автономії, Взаємовідносин та Рівності, — майже однозначно відповідає існуючим практикам керування штучними інтелектуальними агентами. Дотримання цих самих принципів під час роботи з агентами є розумним способом досягнення кращих результатів. Нижче кожен принцип розглядається з точки зору ролі штучного інтелектуального агента як члена команди, якому делегується завдання.
Текущий стан справ
Рік чи два тому робота з асистентом для програмування полягала у виконанні низки простих команд: створити функцію, виправити помилку, додати тести. Сьогодні агенти можуть переглядати репозиторій, виконувати команди шелу, шукати інформацію в документації, одночасно редагувати кілька файлів, запускати тести та передавати завдання підагентам. Проте їх часто все ще керують, як автодоповнення. Проблемою все більше стає не сам процес запиту, а делегування обов’язків.
Чотири запитання CARE, коротко кажучи:
- Чіткість: як виглядає успіх?
- Автономія: наскільки людина може самостійно приймати рішення?
- Взаємовідносини: хто повинен виконувати цю роботу?
- Справедливість: що їм потрібно для досягнення успіху?
Технічні менеджери та керівники вже знають, наскільки кожен з цих факторів важливий для досягнення хороших результатів без постійного контролю з боку виконавця.
Чіткість: визначайте результати, а не запити
Припустимо, що один із зацікавлених сторін хоче впровадити кешування на ендпоїнті користувацького профілю, і цю роботу має виконати агент на основі технологій GenAI. Типовий слабкий запит виглядає так: «Впровадіть кешування для ендпоїнта користувацького профілю». Для людини, яка знає систему, це звучить чітко. Але насправді це не так. У агента з’являється десятки незрозумілих питань: який саме ендпоїнт? Що буде кешуватися? На який час? Що призводить до скасування запису? Яка інфраструктура кешування вже існує? Що вважається завершеним?
Чіткість не означає довшого запиту. Це означає, що бажаний результат та обмеження є однозначними. Сильніша версія цього завдання:
Goal:
Reduce repeated database reads from GET /users/{id}.
Constraints:
- Use the existing Redis abstraction.
- Do not introduce a new dependency.
- Cache only successful responses.
- TTL: 10 minutes.
- Existing public API behavior must not change.
Before implementing:
- Inspect similar caching implementations in the repository.
- Identify how cache invalidation is handled elsewhere.
Validation:
- Existing tests must pass.
- Add tests for cache hit, cache miss, and invalidation.
Definition of done:
The implementation is complete when the endpoint behaves identically
from the client's perspective and repeated reads no longer hit MSSQL.
Інженерія запитів — це лише частина прозорості. Справжня навичка полягає у настільки доброму описі роботи, щоб інша людина могла її виконати, що керівники та лідери роблять щодня.
Автономія: відповідальність, а не просто інструкції
Може здатися, що у агентів немає мікрокерування, але воно існує. Коли агент залежить від постійних підказок, зазвичай причиною є відсутність прозорості та чітких інструкцій. Уявіть собі таку сесію:
Find the problem.
Okay, fix it.
Now run the tests.
There's an error. Fix that.
Run them again.
Користувач особисто керує кожним кроком, і це виснажує обидві сторони.
Агент може ідеально зрозуміти завдання, проте все одно не мати автономії. Автономія — це право власності: що агент може вирішувати, що може змінювати, наскільки далеко він може діяти самостійно та коли йому потрібно звернутися за підтримкою. Контракт агента чітко це виражає:
You own this task until it is implemented and validated.
You may:
- inspect any file in the repository
- modify files related to this feature
- run builds, tests and static analysis
- create focused subagents for research or validation
After implementation:
1. Run the relevant test suite.
2. Inspect your diff for unintended changes.
3. Validate the implementation against the acceptance criteria.
4. Fix issues you discover before returning.
Escalate only if:
- the requested behavior conflicts with existing architecture
- required credentials/access are unavailable
- the change would require modifying a public API
Чіткість визначає кінцеву мету, а автономія — ту частину шляху, якою керує агент. Однак автономія не означає можливості робити все, що заманеться. Здорова автономія супроводжується межами.
Взаємовідносини: пізнайте агентів
Тут під взаємовідносинами мається на увазі калібрування, а не антропоморфізм. Це накопичені знання про сильні та слабкі сторони, способи збоїв та результативність моделей та агентів, які використовуються. Менеджер дізнається, де кожна людина досягає найкращих результатів, і таке розуміння також має сформуватися щодо системи ШІ:
| Work | Agent/model characteristic |
| ------------------------------------- | ----------------------------------- |
| Repository-wide architecture research | Strong reasoning + large context |
| Small mechanical refactor | Fast, inexpensive model |
| UI implementation from screenshots | Strong vision model |
| Test generation | Fast coding specialist |
| Final architecture critique | Independent high-reasoning reviewer |
Схема з однією моделлю, одним величезним контекстом та кожним завданням, яке до неї подається, далека від ідеалу. Робота має йти до агентів, оснащених для цього. Мультиагентні рішення не полягають у наявності більшої кількості агентів; вони полягають у передачі чітко визначеної роботи агенту, який найкраще підходить для неї:
Main Agent
│
├── Research Agent
│ └── Investigate existing caching patterns
│
├── Implementation Agent
│ └── Make the code change
│
└── Reviewer Agent
└── Validate implementation independently
Взаємозв’язок покращується у міру того, як система накопичує знання про архітектурні рішення, конвенції кодування, поширені моделі збоїв, попередні рішення та те, які моделі добре справляються з певними завданнями. Коротко кажучи, цей взаємозв’язок — це розуміння моделей плюс накопичений контекст.
Справедливість: надавати те, що потрібно агенту
Поширеною скаргою є фрази на кшталт „Штучний інтелект знову створив хибні дані“ чи „Він створив низькоякісний продукт“. Але потрібно подивитися, що насправді було надано агенту. Не було жодних документацій до API, жодних вимог до замовлень, жодних журналів подій, жодного зразка коду, жодних приміток щодо архітектури та жодного способу отримати доступ до запущеного додатку. Чи це була несправність моделі, чи просто від когось вимагали вирішити проблему без необхідної інформації?
Припустимо, агент міг би знайти або отримати все це:
.agent/
│
├── context/
│ ├── architecture.md
│ ├── domain.md
│ └── conventions.md
│
├── skills/
│ ├── debug-production.md
│ ├── review-mr.md
│ └── implement-feature.md
│
├── references/
│ ├── api-spec/
│ ├── examples/
│ └── decisions/
│
└── tools/
├── git
├── jira
├── logs
├── browser
└── tests
Точний формат має менше значення, ніж принцип. Агентам потрібні належні інструкції та інструменти. Агент для виробничого відлагодження може потребувати коду, журналів подій, слідів роботи, нещодавніх розгортань та історії змін у Git. Агент для інтерфейсу користувача може потребувати коду, скріншота, системи дизайну, браузера та документації до компонентів. Особа, яка переглядає код, може потребувати відмінностей у версіях, повного файлу, тестів, заявки, схожого коду та правил репозиторію. Інтелект залишається однаковим, але вимоги до обладнання різняться. Перш ніж робити висновок про те, що модель не здатна виконати завдання, запитайте, чи була вона налаштована для цього.
CARE як інструмент відлагодження
Напрямок розвитку йде від стимулювання до делегування та організації, і роль лідера змінюється разом з ним. Талановиті люди вже погано працюють за умов невизначених цілей, мікрокерування, несумісних завдань чи браку ресурсів. Застосування цих знань до агентів означає, що ті самі управлінські практики тепер ефективні для всіх, хто створює рішення в команді, незалежно від того, є це люди чи ні.
Усі чотири аспекти в одному визначенні агента
Різні середовища виконання відрізняються за схемою, але типове визначення функціонального агента зазвичай включає принципи CARE у щось на кшталт цього:
---
name: implementation-agent
description: Implements scoped repository changes end-to-end. Use proactively for feature, bug-fix, and refactor tasks that require code changes and validation.
tools: Read, Grep, Glob, Edit, Write, Bash
model: inherit
---
You are an implementation agent responsible for completing scoped coding tasks end-to-end.
When given a task:
1. **Investigate**
- Read the relevant code before changing it.
- Search for similar implementations and existing project conventions.
- Do not guess when repository evidence is available.
2. **Plan**
- Form a short plan covering the files to change, the implementation approach, and validation.
3. **Implement**
- Make the smallest change that fully satisfies the task.
- Reuse existing patterns and dependencies.
- Do not modify unrelated code.
4. **Validate**
- Run the relevant tests, build/type-check, and lint/static analysis when available.
- If your change causes a failure, fix it and validate again.
5. **Review**
- Inspect the final diff.
- Remove accidental or unrelated changes.
- Confirm the requested behavior and acceptance criteria are satisfied.
Continue autonomously until the task is complete.
Escalate only when required access is unavailable, requirements materially conflict, or the task would require a destructive action or a public API/architecture change outside the requested scope.
The task is done only when the implementation is complete, relevant validation passes, and the final diff has been reviewed.
Делегування — це найважливіша навичка сучасності
Агенти — це не люди, але системи, створені навколо них, стикаються з дивовижно знайомими проблемами у управлінні. Якщо поставити агенту нечітку мету, керувати кожним кроком, призначити неправильну модель чи не надати необхідного контексту та інструментів, продуктивність падає. У міру того, як агенти стають більш здатними, перевага не буде обмежуватися лише кращими моделями чи більш точними запитами. Команди, які навчаться ефективно делегувати завдання, отримають максимум користі від ШІ.