Парадокс падзей на глыбіны: трансфармэры з петлямі і скрытыя прычыны
Як трансфармэры з павтаральной глыбаючасцю (з цікламі) працуюць у супакрытым стане, чаму лабораторыяхі іх хочаць, што паказвае восьмгодзінныя нарады, і што гэта значыць для локальнага ІІ та надзору.
Большая частка сучасных модэлей для разумавання можа прынесці толькі адносныя думкі да працы, запісваючы іх у вачэнне як токены, і самэ гэта прычына, чаму транскрыпціі па ланцоўке думак сталі главным спосабам адстэйкання за тым, што робіць модель. Адбываюцься павтаральныя змены глыбі: модель перзапускае частку свайго сляпога шара на своем сляпым стане прытым, перш чым выдаты ўжо што-небудзь, таму частка „думак“ ніколі не стае текстам. У гэтым артыкуле пояснюецца, як працуе гэты механізм, чаму ён такы прывабны з эканомічной точкі зору, якія публікуемыя даследжэння ўжо яго падтвердзілі, і што гэта можа значыць для адкрытых модэлей, якія працуюць на вашай сабе апаратурэ, і для тых, хто павяржаецца на чытанне логіки модэлі.
Знайомы патэрн: сляпы механізм, адкрыта реплікацыя
Гісторыя з моделямі для аналізу вже раз выглядала так. Калі у 2024 году OpenAI выклікала модель o1, яна разважвала пры адпаведзе, але её аналіз быў сакрэтны і скрацаны, пры чым компанія адкрыта заявіла, што такое сакаванне было намеральным. Багато спостэральнікаў прыпускалі, што адпаведная тэхніка застанется прыналежнаю компаніі ўсе гады. У замене, чырз год пасля таго DeepSeek выклікала модель R1 з адкрытымі параметрамі та видаванымі следамі аналізу, і адкрытая спальнота быстра воспроізвела гэты падход, калі техніка стала загальна.
Патэрн парадоксальнае развіцця прост: закрытыя лабораторыі выклікаюць тое чы то, залишаючы механізм незрозумелым, а пазней адкрытыя доследжэння воспроізвельгаюць гэта і выклікаюць без праблем. У даным случае ситуацыя выглядае аднакова, за ўзняткам адной важлівай разніцы: адкрытыя версіі з публікуемымі параметрамі вже існуюць, яшчэ перш чым закрытая версія будзе падтверджана.
Што паўтарэна пра Astra, а шта — ні
OpenAI запусціла Astra 2 септэбря 2026 года. Чыстае разлікаванне тых чыненняў, якія паўтарэна, і тых, якіх немае, ёсць важлівым, таму што самае цікавае — гэта самэ тое, што не ўзнесена як офіцыйная інформацыя.
Паўтарэна OpenAI
- Astra — гэты первы модель, якія компанія атрыбутавала статусам „Критычны“ з точкі зору кібербезпекі.
- Ён пасягнуў 100% на тэсты ExploitBench, дзе моделі шукаюць і аднойчываюць рэальныя вузькі месца ў програмнаму забезпечэнні.
- Ён поставляўся з прыстроямі для стежэння за логікай разумовых працэсаў, якія фіксавалі ўсе його письмовыя меркаванні.
Прытварана, але не паўтарэна
1 септэбря The Information паўтарыла, што Astra выкарыстоўвае механізмы рэкурентной глęбіны, тое ўсё, што стосуецца внутрашняях цыклаў меркавання. OpenAI ні не паўтарыла, ні не адмовілася ад гэтага. Це найболей правадзімыя даны, якія є, аднак іх не трэба спрыймать як факт.
Заявлена, але не можа быць пераканаліва
Главны научнік Якуб Пачоцкі публічна заявіў, што глыбіна графа вычыслаў Astra становіць „у два разы меньшая за GPT-4“. Якщо гэта правда, то адно значыць, што ціклы ў модэлі навмысна залишаюцца паверхневымі, а ўзгаданне модэлі є толькі незначна менш зрозумелым, чым у традыцыйнага модэля з адной пасэўкай. Фактычныя цыфры не былі опублікованы, таму стороннія людзі не можаць пераканалівацца ў гэтыя даны; іх трэба прыймать на веру.
Чыстая спекуляцыя
Прыпускі, што Astra ў суфле є чаканым „GPT-6“, не маюць падтрымкі. Ніхто за межамі компаніі пра гэта не ведае.
Чаму пытанне пра монітарынг такое значны
У ліпені 2025 года сорака адміністратароў з OpenAI, DeepMind, Anthropic і Британскага інстытута безпекі AI падписалі спольны дакумент з позыцыяй ў кантэксте монітарынгу ланцоў разумовых працэсаў. У яму спецыяльна паведамлялася, што архітектуры з прихованым разумаваннем, якія працуюць з вектарамі, а не з словамі, могу закрыць вакансію для монітарынгу, ад каторай залежае вяліка частка сучасных методаў забезпечэння безпекі. Пачоцкі быў адным з падписантаў. Якщо інформацыя правядліва, лабораторыя вже аправіла такую архітектуру, якую ўласны галоўны науковыць адзначыў як рызык для нагляду. Чыбах шырэй пазнакоміцца з тым, як Astra парабягае іншыя передовыя агенты, пераканайцеся у нашай парабяганні Astra, Flash, Fable і Mythos.
Як працюе рекурентная глыбіна
Стандартны трансфармер перадае кожны токен через свой стакан слоёў роўна адназначы. Якщо модэлю патрэбны большыя серійныя вычысленні, каб распрацаваць задачу, ўсё, што ён можа зробіць, — гэта стварыць больш токенав: кожны видны крок разумовага аналізу ўособляеся яшчо аднай праходам, і кожны такі крок ўособляецца чытаемым текстам.
Модэль з рекурентным глыбінным падходам дзеліць стакан на тры часткі. Прыёмнай часткай ёст тое, што усваяе вхід у латэнтны стан; да гэтага стану паўтараючыся прыкладываецца ядро, а фінальная частка перадае гэты стан у выходны результат. На дыяграме нижчэй паказаны разлік между гэтымі двума падходамі; зверніце ўвагу, што ядро з петлёй на кожны праход воспаловае тыя ж вагі, і ўсе паўтарэння завершаюцца раней, чым будзе створена хоць адна слова.
Standard: token → L1 → L2 → ... → L96 → out
(one pass; "extra thinking" = more visible words)
Astra: token → PRELUDE → [ CORE × R ] → CODA → out
↑
the same block of layers, re-run on the
model's own hidden state, R times -
before a single word is written
Як формула, адзін цикл выглядае так: h_next = f(h_current), пры чым f ў кожны раз пазначае тую ж самую групу шароў. Перадачы з два па R не вводзяць новых параметраў; яны проста знову застаўляюць тыя ж вагі для стану, які продовжае эвалююць. Корыстным ментальным моделі є чернавік, які канцэптуальна перерабляецца колькасць разоў у прыватным режыме, пры чым фінальная версія толькі і прадаўаецца.
Ключовы наследак такі: кожны цикл пасля першага адбываецца выключна ў вектарнам прасторы, а вектары не залечываюць жадных следаў. Ніч пра тыя проміжныя циклы не запісваецца там, дзе мог бы прачытаць манітар.
Колькасць петлі R таксама ўжо ўстановка часу выконання, а не іншая модель. Аднойчы створены пункт перапалоў можа працаваць з R=1 для недорогай версіі і R=20 для прэміум-версіі. Ззаўні видна толькі запитанне і адпаведны адказ; колькі внутршных процэсаў адбылася між імі застаецца невідомым, як толькі прадаўцы не скажуць вам пра гэта.
Чаму лабораторыям яго трэба: косць аналізу голасам
На час адкладзім правілы безпекі, таму што эканамічныя аргументы самі па сабе дастаткова сильныя.
Метод аналізу па ланцоўкі думак працюе як тэлеграф, який бере плату за кожна слова. Кожны токен аналізу генеруецца па спектру, кожны наступны токен вяртаеся да яго, і ён займае месца ў кэшы KV пра весь час выконання запиту. У прадаўцоў у кінцэвым выліку выходзіць збіраць плату у кліянтаў за ценай токенаў за сабею працу самой моделі.
Лятэнтныя ціклы дазваляюць выконваць серыйяльныя вычысленні без выдазвання якіх-леба дадатковых токэнаў. Не існуе косту генеравання за кожную думку, няма зростання дужыны контэксту і жаднага дадатковага тиску на кэш. У масштабе мільярдаў запытаў на разумаванне ў дзень пераклад чыненняў унутршна ёсць як рашэнне, звязана з маржамі, так і архітэктурным рашэннем. Гэта таксама чыста падходзіць да ступеневай цэнавой сістэмы: той самы контрольны пункт, але выконваны больш разоў, дае адказы на сложнейшыя запытанні за вышэю цэнаю, а абазаваны на пазнаке „разумаванне“ разлік пакрываецца.
Два спосабы купіць можлівасці: шырокі чыра глыбокі
Якщо вы выкананяе інферэнса локальна, баланс выглядае іначы. Існуець два разныя стратэгіі, і яны выкарыстоўваюць разныя рэсурсы.
Спосаб, які выбралы большасць адкрытых модэляў, — это викорыстанне методу wide з сумешчаннем экспертаў. Напрыклад, Flash-Next ад Qwen утримвае 512 экспертаў у доступе і актывуе толькі адпаведна 2% з іх за кожны токен. Цэе паралельны вычысленні, залежныя ад памяці; на MacBook з 64 ГБ памяці, як стварылася інформацыя, ён можа обрабатваць прыблізна 30 токеноў за секунду.
Выкарыстоўванне вялікага колькасці памяці коштае памяці, а память стала рэдкім і дорогім компонентам. На момент напісання ціны на наборы DDR5 ў об’ёме 64 ГБ зрослі з сярэдніх прыблізна 191 долар у серпені 2025 года до прыблізна 1 118 долароў чыры рокі пазней, што ўскладнілася прыблізна на 485%, што больш, чым у большасці іншых комп’ютерных элементаў, укладаючы ў сябе графічныя процэсоры. Прычыной ўсьму є інфраструктура AI: виробнікі памяці пераключаюць свою працу на виробніцтво памяці з высокай пропускной спроможнасцю для акцэлератораў у дата-центрах, великі інтернет-компаніі заздалегідь резервуюць магчымасці, і спадзяюцца, што нехватка памяці будзе трываць да 2027 года. Спрыймайце этыя цифры як момантальную дыягнаму і пераканайцеся ў актуальных даных рынку, прычымляючыся да іх.
Падзея глыбіны адбываецца глыбока: тыя ж шары, алле R разоў. Гэта займае выключны час. На локальнай апаратнасці кожны дапамоглівы цикл зменшае швальнасць декодавання; пры R=4 модэль, якая декодавала 30 токенаў за секунду, будзе працаваць прыбліжна 7 токенаў за секунду. Модэль з цыкламі на ноутбуку не паказвае явных проблем, а проста сповольняецца з адбываннем глыбіны.
Гэта поясняе ўжыткавасць такіх падходаў. Цыклы выкарыстоўваюць больш вычыслаў з кожнага байта важнасцей, якія трэба запрашваць з памяці, а пропускная спроможнасць памяці ёсць обмежаным ресурсам. Арытметычныя елементы, якіе выкананяюць дапамоглівыя пасы, часта застаюцца без работы между запрашаннямі памяці. Модэлі з шырокімі структурами витрачаюць ресурс, за якім конкуруюць усе, а глыбокія модэлі — ресурс, які кліенты дата-цэнтраў ніколі не бачаць дзеякім чынным спосабам. Але на вашай сопрацоўнічай машыне вы бачыце гэта безпосередна як меньшую колькасць токенаў за секунду.
Навуковы шлях: вось гады публікацый
Няхіба якія з асоцыяваных ідэй ўтратаць у таёмніцы. Асновны механізм публікуецца ў науковай літэратуре з 2018 года, і чытанне эйха статэйк дае кращаяе разумеўне модэляў з петлямі, чым будзь-яе аанунцыя пра продукт.
Раздзеленне вагі ў глыбіні (2018–2019)
- Universal Transformer (Dehghani і іншыя, 2018). Асловная петля: паўтаральна застосоўванне тых сабе шараў з раздзеленымі параметрамі. Ён прадараваў трансформеры таго ж размеру ў тэсте GLUE, выкорыстоўваючы пра чвэрць менш FLOPs, і стаў шырока цітаваным, пры тым ніхто не запускаў яго у масштабных умовах.
- ALBERT (2019). Выкорыстоўваў раздзеленне шараў як тэхніку стыснення, паказваючы, што перадзеўжанне глыбіні ёсць дагодзейнейшае, чым падпісканне додатковых унікальных шараў.
Разумовыя працэсы ў латэнтным прасторе (2024–2025)
- Coconut (Meta, студзень 2024 г.). Яго загаловак «Адучы LLM-яў працаваць у неперывнам латэнтным прасторе» апісвае ідею: проміжныя выводы застаюцца у схованых векторах, а толькі вынік ператвараецца ў текст. У задачах планавання ён перамагаў метод chain-of-thought, выконваючы менш крокаў, што ёсць працоўны вызов падазрэнню, што больш кількасць напісаных выводоў значыць кращыя выводы.
- Huginn (Geiping і іншыя, люты 2025 г.), «Расшырэнне вычыслювальных можацяй у час тэставання за дапамою латэнтных выводоў». Модель з 3,5 мільярда параметраў, адучаная на 800 мільярда токенаў. Заставіўшы вагі і даны незменнымі і зменіўшы толькі колькасць циклаў з r=1 на r=32, ARC-E падняўся з 34,9 да 69,9, пры чым рост качэння выводоў дасягаў рэвальюючага 50-мільярднаму параметру модэлю розміру вычыслювальнага бюджету.
Адкрытыя вагі і масштабаванне (2025–2026)
- Ouro / LoopLM (ByteDance, кастрычнік 2025 года). Гэты варыянт ёсць найболей практычна значымым, адколькі вагі моделей публікуюцца на Hugging Face. У гэтую групу входзяць моделі з 1,4 мільярда і 2,6 мільярда параметраў, трэнаваныя на 7,7 трыльйонах токенаў; як паведамляецца, яны даганяюць за эфектывасцю моделі з 12 мільярдаў параметраў. У контрольных эксперыментах павышэння якосці было аднараджана маніпуляцыяй знаннямі, а не ўвеўшчэннем ўместа знанняў: такія моделі не запам’ятовуюць больш фактав, але краща іх выкарыстоўваюць. Команда таксама з’явіла, што следы логічных выводамаў LoopLM больш адпавядаюць яго заканчыльным адказам, чым следы логічных выводамаў у формате «ланцуга мыслей».
У сукупнасці механізм, доказы з тэстаў, спосаб масштабавання і інструменты для замеру вялікі час ўжо є публічнымі. Новым являецца ўпершынэй выкорыстанне гэтых тэхнікаў, а не сама ідея.
Што гэта, верагодна, значыць для адкрытых модэляў і локальнага вычыслення
Наступныя творынні ўжо є прогназамі, а не фактамі, але кожны з іх вынікае з вышэўказаных даследжэнняў.
Верагодна, вядомае адкрытыя выданне з цыкламі ўжо близка
Эфектывае рашэнне па кантролі размеру — это архітектура з петлёй з мешаннем экспертаў, а ведучыя адкрытые сем’і модэляў, такія як Qwen і DeepSeek, ўжо є архітектурамі з мешаннем экспертаў. Дадаць рекурентны ядро да існуючага модэля з мешаннем экспертаў — это поступовая змяна, а не перадзеянне, таму цілком разумна аспакоўвацца адкрытым выласкам з рекурентным ядром прыблізна за адну-две паколініі модэляў, які, верагатна, будзе прасавацца пад гаслам пра дыягональнае, а не вертикальнае расшырэнне можлівасцяў.
Меньшыя файлы для тых сабе можлівасцей
У локальных моделях прыткасці завжды былі залежныя ад розмеру файлоў: вельмі большыя файлы з параметрамі, ліміты памяці та неабходнасць ручнага перакладвання складных слоёў, каб модель толькі запісалася. Якшто модель размерам 1,4 мільярда параметраў можа справжнься з моделямі з 12 мільярда параметраў, то гэта адпавядае завантажэнню прыблізна 3 ГБ замест 24 ГБ. Такую модель можна далейша налаштаваць за дапамогою тэхнікы LoRA на прасоўскай апаратуре, чым зваліваецца памяць для больш дзейнаўскага контексту. Можлівасці на адзін байт паказваюць перавагу тым, у каго є адна відеакарта чы лэптоп. Якшо вы параганяеце локальныя моделі з хоставанымі API з метай стойкасці, наша статыя пра рызыкі, якія несе доступ да AI раскрывае шырэйшыя аспекты такога выбору.
Апаратура для роботы на перыметры ідзе ў пару з цікламі
Ціклы спрацоўваюць за рахунак вычыслювальных моцяў, а не пропускной здатнасі памяці, і прыстроі на базе Apple Silicon маюць достатню вычыслювальную моць у стацыянарным выражэнні па апэксу пропускной здатнасі памяці. Гэты баланс быў недастатковым для паказвальных завадзяй пасляпэльнага аналізу прадыяўкі пасляльней генерацыі, але ідальным для ныякой. Моделі з цікламі таксама спрыяюць оптымізацыі ядра: меншая колькасць розных аперацый, а вагі застаюцца ў кэшы працягом адносоўна многіх пасэў. Недастаець толькі програмнага забезпечэння. Для таго, каб местныя корыстувальнікі моглі отрымаць выгоду, такія рантаймы, як llama.cpp і MLX, будуць патрабаваць прымусовую падтрымку для рекурэнтной глыбі і адаптываўшагася раннего выходу.
Глыба можа стаць настройкай для корыстувальніка
За дапамою рекурсіі па кожны токен маленькі модель може выкарыстоўваць вычысловы ресурсы великай модэлі толькі там, дзе це неабходна: шырока для звычайнага тэксту, глыбока для складных задач. Так сама, як сёньня вы налаштовваеце тэмпературу выбору прыкладоў (зацікавіцеся нашым кялікам пра тэмпературу, top-k і top-p), вы таксама можете выбраць ліміт глыбіны працы на кожны запит. Рэзультаты выкорыстоўвання інструментаў паказваюць тое ж: агенты, якія плануюць, выкарыстоўваюць інструменты і стежаць за станам, адчуваюць наібольшую выгоду ад дадатковай глыбіны, што самэ ў тым і ёсць неабходнасць для локальнага асистента-праектавальніка.
Адкрытые модэлі могу змяніць ситуацыю з прозрачнасцю
Інструмент opaque-serial-depth ў доступе для всіх. Закрытыя прадаўцы могу выкорыстоваць ціклы з нез’явленым значэнням R, але кожны, хто мае даныя у відкрытым формате, можа безпасабліва вымерыць глыбіню скрытага аргументавання моделі. Таму відкрытыя падходы не прымушаны павтараць проблему непрозрачнасі; значэння, якія закрытыя лабораторыі трывожуць, можа стаць вимеранай та опублікованай характэрыстыкай відкрытай моделі. Раследавання Ouro таксама прапавядае не прыпускати, што скрытае аргументаванне за сваёю сутнасцю менш надзеяны: його следы фіксавалі канечныя адпаведзі болей точна, чым традыцыйны метод ланцоўкі думак.
Праўыя вопыткі не ў тым, чы будуць відкрытыя моделі выкорыстоўваць ціклы, адкуль ўжо існуюць даныя Ouro та Huginn. Спрашчэнне ў тым, чы спяльнота будзе союзаваць ціклы з той практыкай, якую закрытыя лабораторыі адмовіліся застаўляць: публікацыяю колькасці ціклаў.
Калі глыбіна рекурэнціі не ўсё, што трэба
- Якщо вам патрэбны аудытавальныя аргументы, напрыклад у регулююцыхся рабочых практыках, видны ланцуг разумовыя дзеяння ўсё ж легча пераглядваць, чым будзь-які скрыты процес.
- Якща на локальным прыстрое затрымка важлівей, чым точнасць, кожны дадатковы цикл безпосередна зменшае працэздатнась.
- Якщо час вычыслення вашага модэлю не падтрымвае рекурентныя ядроў або адаптатыўны выхід, вы ўсё яшчэ не пазнаеце парадаксы ў эфектывнась.
Заключэнне
Прыблізна працаваючы дзесятак гадоў над моделямі мовы, дапаможныя аргументы павінны былі выражацца ў тэксте, і з’яўлялася патрэба ў ўважным чытанні гэтага тэксту. Рекурентная глыбіна усуняе гэты зв’язак: модель можа выкананыць значымы серійны вычысленні без стварэння слова. Вікна монітарынгу все ўсё існуе, але яно вялікай меры не паказвае всё.
Рэзультаты даследжэння ў адным аспекте ўтыхамляюць. Тэхнікі, якія лежачыя в основе ціркулярных модэлей, а таксама методы з відкрытымі параметрамі і інструмент для вычыслення „скрытай глыбі“, вялікай мерой ўжо є публічнымі. Закрытыя лабораторыі можаць застаўляцца першапроходцамі, але відкрытыя екосыстэмы можаць стварыць стандарт.
- Метод „Recurrent depth“ викорыстоўвае аднаковы блок слоёў R разоў на скрытым стане, чым дагаходзіць да серійных вычысленняў без дадатковых токэнаў чы параметраў.
- Ён жертвуе памяцю зарады часу, што робіць яго прывабным для дата-цэнтраў і для локальных прыстроёў з вялікай вычыслювальной магчымасцю, але обмежанай пропускной здатнасцю.
- Universal Transformers, Coconut, Huginn, Mixture-of-Recursions, Ouro і ціркулярныя MoE разам дакументуюць механізм і спосабы яго масштабавання.
- Інформацыя пра тое, што Astra яго викорыстоўвае, застаёцца непадтверджанай; лічбу ціркуляцый трэба спытаць у кожнага прадавца.