Google OKF, Hermes і Gbrain: папкі як графы знанняў.

Ідэя Андрэя Карпаты «LLM-Wiki» — агента на асоцыяцыях большых мов, які можа чытаць і пісаць вікі на фармаце Markdown, каб працаваць самастойна, прывабіла вялікую цікавасць. Адзінцы і маленькія команды пачынаюць яе прыменяць. Калі вы дазваляеце ШЫ выконваць працу, сложнасць частаў не ў самай модэлі, а ў тым, як вы задаеце ёй неабходную інфармацыю.

Калі папросіце яго падсумаваць даны замовэнняя мінулага месца, ён не зможа правільна адпаведзець, калі не знае, якія табліцы маюць даны, што означаюць столбцы і як табліцы з’едынаюцца. Фармат адкрытых ведамаў (Open Knowledge Format, OKF) спрамованы на усуненне такіх прасоў. Яго главным ворагам ёсць інформацыйныя ізоляцыі, а не масштаб.

Внутрэніяя інформацыя, такая як схемы таблыц, адзначэнні метрык, інструкцыі па рашыранні проблем і шляхі з’яеднання сістэм, знаходзіцца ў каталогах метаданых, вікі, коментарах да коду і у знаёмствах апытных спецыялістаў. Кожны новы праект агента пачынаецца з сбору і паўторнага выучэння гэтага кантэкста з нуля. У публікаціях Google Cloud пра OKF гэта называецца проблемай складання кантэксту.

Для чаго падходзіць OKF

Большая частка таго, што патрэбна агенту, ёсць спецыфічная для компаніі: адзначэнні таблыц, спосабы вычыслення метрык, процедуры эксплуатацыі, спецыфікацыі API. Гэтыя матэрыялы розсеяны. OKF ставіць мету аб’еднаны іх у файлы фармата Markdown, якія можа кераваць Git, такім чынам агенты і спецыялісты можаць выкарыстоўваць аб’еднаны набор інформацыі замест таго, каб ў кожны раз занова шукаць даныя. Файл index.md і супаўязаныя файлы з концэптамі стаюць адной з можна выкарыстоўваць інформацыйнымымы істочнікамі.

Запісваючы кантэкст пад час работы з AI, вы накапліваеце тое, што можаце перыяўтваць. Гэта не тое ж самае, калі ў кожнай сесіі падставляць новы запіт.

Як агенты яго выкарыстоўваюць

Выкліканне модэлю рэдка калі ўсталявае практычную точнасць. Агентам патрэбны бізнес-кантэкст, правільныя ваказанні дадзэнняў і пакананыя рашэнні. OKF дае ўсё гэтае ў адгукаваным відзеце, куды ўжо можна знайсці неабходную інфармацыю пры стварэнні адпаведзення.

OKF, MCP і RAG

Некалькі тэхналогій, якія выкарыстоўваюцца з агентамі, плутаюцца з OKF. Іхнія функцыі разныя.

• OKF зберагае знанні, напісаныя загадзя: ваказанні, контракты, інструкцыі.
• MCP наладжвае звязак агентаў з жывымі інструментамі і сістэмамі пад час ўжыцця.
• RAG выкарыстоўваецца для выкарысці значных фрагментаў з вялікіх неструктураваных баз дадзэнняў пад час запіту.

Яны не ўрагі. Апішэнне тыдзенных актываўных корыстнікаў можа знаходзіцца ў OKF, тады калі сама запытка BigQuery выконваліцца праз MCP. Пакеты OKF таксама можуць быць об’ектамі пошуку ў індэксе RAG. Практычны вопыт — гэтыя сферы якія вы вялічзіце вялікім чынам і дзе ёсць прасоцінкі.

Hermes, Wiki LLM і Gbrain

Адны з вароў, якія выбіраюць людзі, — гэта запуск срэдавішча агента, такога як Hermes, з Wiki LLM як стандартным элементам, а пасля дадаць Gbrain як шар памяці. Gbrain, які ўвесь час ў вільным доступе ад Garry Tan, зберагае інформацыю у форме, якую агенты можуць паўтарна выкарыстоўваць. Ён болей прылеглы да зовнішней памяці для LLM-аў, чым да вікі, надаткованага для людзей, у духу ідэі LLM-Wiki ад Karpathy. Сохраненыя элементы ўбудованы так, каб пазнейшы пошук могаў знаходзіць семантычна супаўзелівыя паказнікі з мінулага: падобныя рашэнні, супаўзелівыя бізнес-обмежэнні і т. п., а не толькі точныя збіранні ключоўых слоў.

Калі сераўіс апрацоўваецца, налаштаванне Gbrain і адпаведныя перакананні можна автаматызаваць унутрь Hermes, уключаючы вбудованае налаштаванне. Факультатывныя пакеты навыкаў расшырваюць можлівасці агента.

Тыповы шлях развяртання размешчае агента на VPS за рэверсным проксі, так што да яго можна дасягнуць з будзь-якага месца, пасля чаго на панелі керування паўтараецца першы запуск. Пасля чаго праца больш не стосуецца інсталявання програмнага забезпечэння, а больш – падачы інформацыі з рэальным кантэкстам у вікі і памяць.

Як выглядае пакет OKF у практыцы

Бандл — гэта каталог файлаў у фармаце Markdown з YAML-фронтматэрам. Кожны файл апавядае аб аднай канцэпцыі: таблыцы, паказніку, API, інструкцыі. Фронтматэр містыць поля, якія трэба можна было бы шукаць, такія як тып, заголовак, апісанне, тагі і часовыя пазнакі. Тэла файла ўмоцаванае тэкст, формулы і прыклады, якія чытаюць як людзі, так і мадэлі. Спынкі між файламі ператвараюць каталог у граф, а не толькі ў дрэво, таму агент можа перайсці ад паказніка да яго вучэбнай таблыцы, а з таму да інструкцыі па рашыранні проблемы.

Паколькі фармат — гэта звычныі файлы, той самы бандл можа знаходзіцца ў Git, выкладзвацца у віглядзе tarball або стаяць на статычным серверы. Запросы на падтрымку стаюць процэсам адзінаковага перагляду знанняў. Інформацыя пра вінаватых і історыя змян паводзіцься, хто і калі змяніў формулу для расчытку. Жадных прыналежных SDK няма межы інжынерам і кантэнтам; cat дастаткова, ўбачыць канцэпцію.

Такая простасць ўмышленая. У прымітках да дызайну Google падкрэсляецца мінімалістычны падход: патрабуецца толькі полье з тыпам, а рэшэння ўсіх іншых аспектаў застаецца за тымі, хто стварае даныя. Людзі можу ручна ствараць пакеты. Сістэмы экспорту можу генераваць іх з існуючых каталогаў. Одні агенты можу стварыць канцэпцію, яку пазней выкарыстоўваюць іншыя агенты. Фармат являецца такім „контрактом“; інструменты на кожным канцы ўсё равно можна заменіць.

Вывертка Hermes і Gbrain у працу

Колі Hermes запускаецца, ўседзённы цыкл бліжэй да працы з ведамасцю, чым да інфраструктуры. Вы дадаеце прыміткі, рашэнні і вызначэнні ў шар wiki. Gbrain іх інтэгруе і робіць іх доступнымі для пошуку за значэннем. Калі агент пазней сталкнёўся з падобным пытаннем, ён можа скорыстацца тымі паказанымі раней кантэкстамі, замест таго каб пачынаць з порожньяго запіту.

Калькі ляховічнікаяцье той цыкл корыстным. Запісвайце адзначэнні так, як каб іх чытаў незнаёмец у шасці месацоў. Валіце адну канцэпцію на файл, каб адыскаванне заставалася точным. Стварайце спынкі між супаўзвязанымі канцэпціямі заместа таго, каб дуплікаваць тэкст. Калі змініцца рашэнне, апцэнтуйце канцэпцію, а не заставляйце супераслогічныя запісі ў іншым месцы. Ставіцеся да вікі як да продукту, а не да сховішча.

Неабавязковыя пакеты навыкаў для Gbrain расшыроўваюць можлівасці агента без змены основнага модэлю памяці. Важлівая асоблівасць — памяць і інструменты застаюцца разнымі: памяць храніць тое, што вядома; інструменты звяжуюцца з жывымі сістэмамі, калі патрэбны дзеянні. Гэта раздзелэнне адпавядае раздзелэнню OKF і MCP, якое было опісана вышэй.

Выбір пачатковай точкі

Калі у вашай команды ужо ёсць адмініструемы вікі з паметрамі і схемамі, ператворэнне яго ў пакет у фармаце OKF — гэта логічны першы крок. Калі галоўная проблема — „агент не можа бачыць нашы базы дадзеных“, спачатку можна выстаўіць сервер MCP пры тых сістэмах. Калі проблема — „адказы захаваны ў архівах Slack і ўскладнююць пошук“, тады індэкс RAG для чатоў і заявок можа стаць правым рашэннем. Багато команд у канцы канцоў хочаць і тры варыянты, але пачатак з найбольш выражанай проблемы дапамагае заставіць праект у правым напрамку.

Як бы вы не выбралі, пераканайцеся, чы робіць агенты менш часта тыя ж запытанні для уточнэння. Гэта лепшы показнік успеху, чым колькісць файлаў у пакеце.

Перш чым знанні стануць адорганізаванымі

Калі паглядзець на OKF, стае ясны адзін ліміт. OKF і RAG або бацькі дапамагаюць, калі знанні ўжо арганізаваны. Да таго часу корыстны кантэкст застаецца ў нотатках з зустрэчаў, логах чатоў, сумневах і незаканчаных дыскусіях. Фарматы на кшталт OKF выкорыстоўваюцца пасля таго, як знанні ужо апрануты. Хукі, якія вядуць назад да первіснага крыніцы, знаходзяцца да гэтага моменту. Уместа таго, каб даць модэлю готавую адпаведзь, вы даеце яму шлях назад да первіснага кантэкста.

У далёкай перспектыве важлівы буду не толькі модэлі і запросы. Не менш важлівы будзе тое, як інфармацыя зберагаецца і паказваецца ШЫ.