Адзін агент, шмат спецыялістаў: асабісты AI павінен размяркоўваць працу, а не рабіць усё сам
Асабісты AI-асістэнт працуе лепш як аркестратар: ён накіроўвае задачы агентам кадавання, мадэлям і простым скрыптам, а пад ім — паэтапныя дазволы.
Крыніцы: I Stopped Trying to Build One AI Agent That Does Everything
Qwen, Nemotron, Gemma, DeepSeek. Местная обработка дадзеных, AWS Bedrock, Azure. Разныя асяроддзя выканання, разныя размеры, разныя цены, разныя ступені разчароўвання. Доўгі рад эксперыментаў з Hermes, Codex, OpenCode, местнымі мадэлямі і API-сервісамі ў воблаку часта выклікае перакананне, што існуе ўнічыжны правільны мадэль, які трэба знайсці. Раней чы пазней выявляецца, што гэта неправы падход. За гэтым стоіць другая, болей цікавая прыпуск: чаму сам агент павінен робіць усё?
Мечта пра Jarvis
Першая архітэктура ўсё ў тым проста, што гэта аж сорамна: чалавек, потым адны агент, а потым усё іншае.
Паведамленні для таго агента можу выглядаць так: пераканаліцца станом праектаў, вылечыць проблему ў аднам з рэпазітарыяў, падаць спіс запланаваных на завтра задач, апавесціць, чыі сервер Linux працуе нормальна, даследзіць тэму і падаць важлівыя часткі інфармацыі. Агент апошні павінен развярнуць працу з усім гэтым.
Гэта звучыць чудова, але самэ гэтаму моменту прыходзіць пачынацца проблемы, таму што ўсё гэта стае вялічынай API.
Для дзеяных задач вялікія інструменты вялікія вяжучыся
Кодаванне — гэта яскравы прыклад. Codex і OpenCode — гэта не проста вікна чату, прыўязаныя да модэлю. Яны працуюць у сераўе для кодавання. Яны розумеюць структуру рэпазітарыяў, чытаюць і шукаюць файлы, рэдагуюць калькі файлоў адразу, запускаюць каманды, аналізуюць памылкі, адрабоўваюць тэсты, аналізуюць разніцы і ведуць працу па цыклу. Гэта вялікія колькасці спецыялізаваных інструментоў.
Цяпер заўважкім, што персональнаму агенту паведамляюць адрабоўваць новую функцыю ў праекце. Існуе два можлівыя падходы.
Падчынак А. Даеце агенту вельмі моцны модэль, адзеныя да файлавой сістэмы і адзеныя да шэлу. Навучыце яго аператыям з рэпазітарыямі. Стварыце механізмы кантролю кантэксту, обработкі разніцы, выканання команд, ціклавых тэстаў і вярнення пасля адзінакоў. Продовжайце суперашчыпляць працэс напісання коду. Аплодырам: агент для напісання коду ствараецца з нуля.
Падчынак Б. Агент выявляе задачу напісання коду і перадае яе Codex або OpenCode. Гэта явная больш розумная падход.
Памагчык не павінен быць найкрашчым у всім
Гэта справжняя зміна мышлення. Персональны памагчык не павінен быць найкрашчым програмістам, дзецэрнікам, інжынерам DevOps, планавальнікам і сістэмай знанняў у свеце. Яго задача — ведаць, хто павінен выконваць работу. Гэта іншая, а можа, нават важнейшая, адпаведальнасць.
Людскія арганізацыі працуюць так сама. Галоўны кампанійны керуючы не пішае кожнай функцыі на адзынай стороне, не налаштоввае кожны кластэр Kubernetes, не дзержыць аналіз кожнага рынку, не стварае кожную табліцу, не бронюе кожную нараду і не адпавядае на кожны запіт на падтрымку. Іхня цэннасць часткова выраховываецца з розумэння таго, што трэба зрабіць, хто павінен гэта зробіць і чы рэзультат ўзьямлівы. Адпаведным чынам можна спакаваць персональнага архітэктара AI. Ён не выкананае кожную задачу. Ён дастаткова добра розумее намеры, каб правільна распрацоўваць заведамы.
Іншая форма сістэмы
Заменіце ланцоўку чалавек, агент, адзін велікі модэль і ўсё іншае на ўсё гэта ў такім выглядзе:
┌──────────────┐
│ Me │
└──────┬───────┘
│
▼
┌─────────────────┐
│ Google Chat │
└────────┬────────┘
│
▼
┌─────────────────┐
│ Hermes │
│ Orchestrator │
└────────┬────────┘
│
┌─────────────────┼──────────────────┐
│ │ │
▼ ▼ ▼
Coding Agents AI Models Tools
Codex/OpenCode Local / Cloud APIs / Servers
│ │ │
└─────────────────┼──────────────────┘
│
▼
Final Result
Робата агента стае значна ясней. Ён розумее чалавека, розумее наявныя можлівасці, выбірае правільны варыянт, надае неабяжны кантэкст, сочыць за рэзультатам і дае адказ. Гэта той асістэнт, які дзеўальна цікаві.
Чат як едын вхідныя дзверы
Програма для чату, такая як Google Chat, становіцца значамай у такім дызайне. Яна не должна адкрываць складнасці, якія ў ёй ёсць. Для карыстальніка існуе ўсьмо толькі адна беседа. Паведамленне на кшталт «Пераканайцеся, чы не сталася чаго-небудзь важлівага з Праектам X сёньдзе» можа змусіць агента запытаць сістэму задач, пераглянуць GitHub, пераканацца ў стане сервера, прачытаць актуальны матэрыял, можа папросіць іншую мадэль аналізаваць ўсё гэта, а пасля падсумаваць. Пользоватэль не павінен знаваць нічога з гэтага і не павінен ачынаць пяць разных прыкладнікаў. Інтэрфейс — гэта намер, а все, што ўсероўні, — гэта рэалізацыя.
Кодаванне як прыклад для модэля
Картынка, якая паказвае чалавека далека ад камп’ютара. У прыёмнай паведамленні напісана, што ёсць проблема ў процэсе аўтэнтыфікацыі Праекта X, і прасіма выправіць яе, калі гэта можна зробіць проста. У прынцыпе, ланцюг дзеяння выглядае так: агент выявляе, які самэў праект, збірае достатню інфармацыю, каб знайсці хранілню, усвядомляе, што код трэба зменіць, і перадае заведамства кодавальнаму агенту. Codex або OpenCode ачынае хранілню, дакледзе сітуацыю, рэдагуе неабходныя файлы, запускае тэсты, пераканальваецца ў разлікі і вяртае рэзультат. Оркестратор прымае яго і даёт звестку на кшталт: пад час верыфікацыі refresh-token была выкарыстана некорэктная умова тэрміну дзейнасці, кодавальны агент яе выправіў, неабходныя тэсты праходзяць, і ось што было зменена.
Майжэ не мае значэння, які модэль стварыў які токен на паўтарылыях етапах. Галоўнае — заданне было выканана правільна.
Модэлі стаюць інфраструктурой
Калі агент стае часткай слоя кірэгуравання, пытанні на кшталт таго, чы гэта мае быць Qwen, DeepSeek, локальны модэль, Bedrock чы Azure, больш не выключаюць адзін другога. Адказ можа быць проста — так, пры чым разныя задачы выконваюцься за дапамою разных модэляў. Маленькі локальны модэль адпавядае за простае кераванне маршрутамі. Дышчы локальны модэль стварае кантакты. Болей сільны модэль для разумовага прымее складныя рашэнні. Агент для програмавання керуе рэпазітарыямі. Іншы спецыяліст займаецца іншымі завадамі. Модэлі стаюць інфраструктурой, а інфраструктура павінна быць заменяемай.
Утрыманне ад залежнасці ад аднаго постаўчыка
Модэлі зміняюцца з абсурдным спяхам. Тое, што сёння здаецца ідэяльным выборам, чыраза шысць можа стаць посерэднім. Цены змінююцца, прадаўцы змінююцца, адкрытые модэлі прагрэсуюць, вікна кантэксту расшыруюцца, можлівасці вікорыстання інструмента павышаюцца, а прыходзяць новыя архітэктуры інферэнса. Калі весь персональны настаўкі вырахоўваюцца на тым, што модэль X можа зробіць усё, то зміна ёй заводзіць да проблем. Лепшы падход здаецца такім:
Task
↓
Router
↓
Best available capability
Сегодня апошнім крокам можа быць аднісень ліцэнзавальнік, а завтра — іншы, і працэйны працэс не павінен гэтага бярагчыць.
Раутэр можа быць важлівейшы, чым мадэль
Большая частка часу прабывае на парабяранні модэляў: А павысіўся на 74 балы, B — на 78, C мае мільйон токэнаў кантэксту, D коштае на 60 процэнтоў меней. Гэтая інфармацыя ўжытковая. А цяпер уявіце сястэму, якая ведае, што А — найкрашчы для певнага задачы, якое выконваецца па кодаванню, B — шырокі і дышэўкі для класыфікацыі, C — непатрэбны, таму што запіт можна адпаведзець локальна, іншы запіт узагалі не патрабуе LLM, а толькі вызову API, аднаму запыту трэба прайсці безпосерэдна да Codex, а іншаму патрэбна запытка да корыстніка перш чым ўсё адбудзецца.
У гэтым случае частка інтэлекту знаходзіцца ў сястэме, якая вырашае, як інтэлект будзе выкарыстоўвацца, што ў дзесяткі разоў цікавей, чым яшчэ адна табліца з рангамі.
Не кожны крок патрабуе LLM
Агенты робяць так, што гэта легка забыць. Калі запытаюць, чый сервер ў працы, агенту не патрэбна мадэль аналізу з 200 мільярдаў параметраў, каб разважыць, чыі існуе сервер. Ён адрабоўвае перагляд стану, адначыта рэзультат і дае адказ. Калі запытаюць, сколькі месца застаўся на дыску, ён адрабоўвае:
df -h
Потым ён аналізуе выходны рэзультат і адпавядае. Дорогія модэлі разумавання на кожным кроку — гэта не інтэлект. Інодзе гэта проста паслабая інжынерыя.
Разрэшэнні
Калі агент можа дэлегаваць дзеянні, з’яўляецца сложнейшая проблема: што ён можа робіць? Чытанне календара не аднародна з адправкай электранаўпіса. Чытанне рэпазітарыя не аднародна з з’еднаннем прагласу прыемкі. Перакананне сервера сутычаецца з выдаленнем файлаў. Таму корыстны персональны агент патрэбуе модэлі разрэшэнняя разам з яго інструментамі, прыблізна такога:
- Чытанне вядзецца без запіту.
- Падготовка чэрнавікаў і планаў вядзецца без запіту.
- Дзеянні з нізкім рызыкам могу вядзецца самыя.
- Усё значныя чакае на санкцыю чалавека.
Калі агента папрашаюць з’ясавіць, чаму не працюеяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяяя
Разглянемы пытку з’ясаваць, што відбываецца з адзінам праектам. Жадна адна запытка да базы дадзеных не можа на яе адказаць. Хорашы адказ апыляецца на няўзабавныя працы над развіццем, актывацыю у GitHub, задачы, пакананыя ранейя рашэнні, статус развяртання і тое, што корыстнік планаваў зрабіць далей. Самэ ў такім межасістэмным кантэксце персональны слой оркестрацыі становіцца практычна безцэнным.
Пастка перадзялёгай інжынерыі
Апасцярожнасць ўсёвідома. Такі падход спрабаджвае лёгкасць стварэння такога дыяграмы:
User
↓
Intent Classifier
↓
Planning Agent
↓
Model Router
↓
Memory Agent
↓
Permission Agent
↓
Coding Agent
↓
Validation Agent
↓
Reflection Agent
↓
Supervisor Agent
↓
Another Agent Watching the Other Agents
А потым пасціваць тры месцы на стварэнне організацыі на аднойчынных тэхналогіях, каб можна было запытацца, што запланавана сьегодні. Гэта нікому не дапамагае. Урок з усіго эксперымента такі: сложнасць павінна заслужыць свае месца. Дванаццац агентаў толькі таму, што дыяграма архітэктуры выглядае круцэ, — гэта паслабыя прычыны. Здольнасці, якія раз за разам заўсёды эканаюць час, — гэта хорашыя прычыны.
Дэлегаванне раней автонаміі
Полна автонамныя агенты прывлекаюць многа ўвагі: даеце ім цель, заставляеце іх працаваць гадзіны, дазволяеце агентам размовляць і самім прымыкаты рашэнні, а потым вяртаецеся, калі все завершана. Гэта цікава, але гэта не тое месца, дзе трэба пачынаць стваранне персональной сістэмы. Высока надзеяна дэлегаванне павінна выйсці раней максымальнай автонаміі. Мета — сказаць «зрабіць X» і каб сістэма надзеяна выбрала правы інструмент або агента і абавесціла пра тое, што сталося. Калі гэта будзе працаваць абсалютна добра, автонамія можа паступова вырастаць.
Большэйша колькасць спецыялізаваных інструментоў, а не менш
Спачатку цель выглядае як кансалідацыя: занадта многі інструменты на базе ШЫ, таму трэба стварыць адны ШЫ, які ўзьме ўсе ў свае рукі. Але гэта выявляецца некорэктным. Канечны стан можа включаць больш спецыялізаваных сістэм на базе ШЫ, пры чым ўжо не будзе патрэбы ў індывідуальным кераванні, што і рашаеяе слой оркестрацыі. Мабыць, ў будучыні не будзе аднаго ШЫ, які керуе ўсімі, а больш аднай інтэрфейсу, якая коордынуе ўсе. Разлік ў тым незначны, але вельмі значны.
Для чаго патрэбны агенты
Пасля запуску такой сістэмы, выканання розных задач, стварэння інтэрфейса для чату, прыкладкі розных модэляў і глыбокага разважання над спецыялізаванымі агентамі для кодавання, становіцца ясным значэнне персональнага агента. Ён не павінен быць найрозумнейшым ІІ ў цій структуры. Галоўнае — ён павінен знаць чалавека і яго сістэмы. Ён павінен разумець, пра шта запытваюцца, які кантэкст мае значэнне, якія можнасці падходзяць, што ён можа зрабіць, калі ў яго ўзнакомаеся патрэба ў падтверджэнні і як вернуць рэзультат. Гэтага дастатнек, а усё інша можа быць перадана іншым.
Архітэктура, якую варта жадаць
Коńчыны палягаюць прыбліжна так:
ME
│
▼
GOOGLE CHAT
│
▼
┌─────────────────┐
│ HERMES │
│ │
│ Intent │
│ Context │
│ Memory │
│ Permissions │
│ Orchestration │
└────────┬────────┘
│
┌──────────────────┼───────────────────┐
│ │ │
▼ ▼ ▼
AI MODELS CODING AGENTS TOOLS
│ │ │
Local / Cloud Codex/OpenCode GitHub/APIs
Fast / Strong Servers/Tasks
│ │ │
└──────────────────┼───────────────────┘
│
▼
HERMES
│
▼
ME
Ключова мета — не адзінкавы коробак. Усё, што знаходзіцца пад кераваннем аркестрабіста, павінна з часам стаць заменным. З’являецца лепшы агент для кодавання: заменяеце яго. З’являецца крашчая локальная мадэль: заменяеце яе. Апрацоўка дадзеных у воблаку стае танней: направляйце туда больш заўданняў. Прадаўцы стаюць ненадзеянымі: знаходзіце альтэрнатыўу. Перадзяляванне спосабу вікорыстоўвання асістэнта ў кожны раз, калі змініваецца індастрыя ШЫ, ніколі не павінна быць неабходным.
Асобісты ШЫ, можа, у зворачным напрамку
Большасць продуктов AI конкуруюць за тое, насколькі розумным ўзьўязок являецца, што ўсё зрозумела. Аднак, калі мадэлі продовжаюць прагрэсаваць, зростае ў значэнні ўсё іншы аспект – коордынацыя. Гэта значыць, трэба ведаць, што мае на увазе чалавек, які ў тым кантэксце, якія сістэмы маюць значэнне, якія інструменты існуюць, якая мадэль падходзіць, якія дзеянні ёсць безпечнымі, калі трэба запытаць і калі воўсе не трэба вікорыстоўваць AI. Асістэнт, які варта жадаць, не павінен быць неабходна тым, у якога найвышыя показнікі тэстаў. Гэта той, які прычыняецца да таго, што вся інтэлігэнція і програмнае забезпечэння навакол чалавека стаюць адным цэлым.
Короткая версія заключэння
Пачатковай пунктам являецца бажанне маты персональнага AI-агента. Адпрацоўка такога агента паказвае, што настойчывы асістэнт на самай працоўцы ёсць проблемай інфраструктуры. Пошук ідэальнага модэлю паказвае, што выбір модэлю на самай працоўцы ёсць проблемай маршрутацыі. Адліквідацыя таго, што агент павінен рабіць, паказвае, што персональны асістэнт на самай працоўцы можа быць проблемай оркестрацыі. Архітэктура пераходзіць ад пошуку найрозумнейшага модэлю і даўання яму всіх інструментоў да сістэмы, якая розумее намеры і направляе задачы у правы месца. Гэта значна менш „магічны“ апісанне Джарвіса, але значна бліжэй да чагосьці, што можна фактычна стварыць і вжываць ў кожны дзень.
Супаўзеўныя матэрыялы
- Стварэнне агента для планавання ў LangGraph: планаванне, выкананне, перапланаванне, атрыбутыванне рэзультатаў — Агент для планавання з чатырма вузламі ў LangGraph для фінансавых даследжэнняў: структураваныя планы, рэестр інструментаў, які ведае прастор імен, ліміты перапланавання і прыклад выканання з атрыбутамі.
- MiniCPM5-2B проты 4B Rivals: чаму агентны падход дае іншыя рэзультаты — Мадэль на 2,5 мільярда параметраў, якая перамагае мадэлі на 4 мільярда параметраў па рэзультатах у однакратных тэстах, але праследжвае на два-трыя разы заднія позыцыі ў тэстах з вікорыстаннем агентнага падходу. Прычыны — памылкі ў версіях індэксаў, локальная праўоцэснасць і супаданне умов тэстаў.