Пояснення принципу повторюваної глибини: трансформери з циклами та приховане міркування

Більшість сучасних моделей міркування можуть продовжувати послідовну думку лише шляхом запису її у вигляді токенів, саме тому записи про послідовність міркувань стали основним інструментом для відстеження того, що робить модель. Відбуваються періодичні зміни глибини обробки: модель перезапускає частину власної структури шарів на своєму прихованому стані перед тим, як щось вивести, тож частина „міркувань“ ніколи не перетворюється на текст. У цій статті пояснюється, як працює цей механізм, чому він настільки економічно привабливий, які опубліковані дослідження вже його демонструють, та які наслідки це може мати для відкритих моделей, що працюють на вашому власному обладнанні, та для всіх, хто покладається на аналіз міркувань моделі.

Знайома схема: прихований механізм, відкрите копіювання

Історія з моделями для міркувань вже відбулася один раз. Коли у 2024 році OpenAI випустила o1, модель обмірковувала варіанти перед відповіддю, але її міркування залишалися прихованими та скороченими, причому компанія відкрито заявила, що таке приховування було навмисним. Багато спостерігачів вважали, що основна технологія залишатиметься пропрієтарною ще багато років. Однак трохи більше ніж через рік DeepSeek оприлюднила R1 із відкритими параметрами та видимими слідами міркувань, і відкрита спільнота швидко відтворила цей підхід, як тільки формула стала загальнодоступною.

Патерн є простим: закрита лабораторія випускає ту чи іншу функцію, залишаючи механізм непрозорим, а пізніше відкрите дослідження відтворює його та звільняє від обмежень. У цьому повторюваному сценарії є одна важлива відмінність: вже існують відкриті реалізації з опублікованими параметрами ще до того, як закрита версія навіть буде підтверджена.

Що підтверджено щодо Astra, а що — ні

OpenAI запустив Astra 2 вересня 2026 року. Тут важливо розділяти твердження, адже саме непідтверджена інформація є цікавою.

Підтверджено OpenAI

• Astra — це перша модель, яку компанія оцінила як «Критичну» з точки зору кібербезпеки.
• Вона набрала 100% у тесті ExploitBench, який перевіряє здатність моделей знаходити та експлуатувати реальні вразливості програмного забезпечення.
• Вона постачалася з моніторами ланцюга мислення, які відстежували її письмове міркування.

Повідомлялося, але не підтверджено

1 вересня The Information повідомила, що Astra використовує рекурентну глибину, тобто внутрішні цикли міркувань. OpenAI нічого не підтвердила та не спростувала цього. Це найбільш достовірне повідомлення, засноване на фактах, а не на чутках, проте його не варто вважати остаточною інформацією.

Заявлено, але неможливо перевірити

Головний науковець Якуб Пахоцький публічно заявив, що глибина графа обчислень Astra становить „у два рази менше, ніж у GPT-4“. Якщо це правда, це означатиме, що цикли навмисно роблені поверхневими, а логіка моделі лише трохи менш зрозумілою, ніж у звичайної моделі одного проходу. Фактичне значення не було оприлюднено, тому сторонні особи не можуть перевірити цей показник; його доводиться приймати на віру.

Чиста спекуляція

Припущення, що Astra насправді є чутливим „GPT-6“, не мають підтримки. Ніхто за межами компанії про це не знає.

Чому питання щодо моніторингу настільки актуальне

У липні 2025 року сорок один дослідник з OpenAI, DeepMind, Anthropic та UK AI Security Institute спільно підписали документ із позицією щодо моніторингу ланцюжка мислення. У ньому конкретно попереджалося, що архітектури прихованого мислення, які обробляють інформацію у вигляді векторів, а не слів, можуть закрити вікно моніторингу, від якого залежить більшість сучасних практик безпеки. Пачокський був серед підписантів. Якщо інформація достовірна, лабораторія вже поставила таку архітектуру, яку її власний головний науковець вважав ризиком для ефективного нагляду. Щоб дізнатися більше про те, як Astra порівнюється з іншими передовими агентами, перегляньте наше порівняння Astra, Flash, Fable та Mythos.

Як працює рекурентна глибина

Стандартний трансформер проходить кожен токен через свої шари рівно один раз. Якщо моделі потрібні додаткові послідовні обчислення для вирішення проблеми, єдиний спосіб — це генерувати більше токенів: кожен етап міркувань є черговим проходженням даних, а кожен етап є читабельним текстом.

Модель з рекурентною глибиною ділить стек на три частини. Прелюдія вставляє вхідні дані у прихований стан, до цього стану неодноразово застосовується основний блок, а кода перетворює кінцевий стан у результат. На малюнку нижче показано відмінності між цими двома підходами; зверніть увагу, що рекурентний основний блок використовує однакові ваги під час кожного проходження, і всі повторення завершуються ще до того, як буде створено будь-яке слово.

Standard:  token → L1 → L2 → ... → L96 → out
           (one pass; "extra thinking" = more visible words)

Astra:     token → PRELUDE → [ CORE × R ] → CODA → out
                                    ↑
                  the same block of layers, re-run on the
                  model's own hidden state, R times -
                  before a single word is written

Якщо описувати це за формулою, одна ітерація — це h_next = f(h_current), причому f щоразу позначає ту саму спільну групу шарів. Кроки від другого до R не вводять жодних нових параметрів; вони просто знову застосовують ті самі ваги до стану, який постійно змінюється. Корисною уявною моделлю є чернетка, яку кілька разів переробляють у приватному режимі, а до остаточної версії долучають лише наприкінці.

Ключовим наслідком є те, що кожна ітерація після першої відбувається повністю у векторному просторі, і вектори не залишають жодних записів. Нічого про ці проміжні кроки не записується в місцях, які може прочитати монітор.

Кількість ітерацій циклу R також є налаштуванням під час виконання, а не різною моделлю. Один і той самий чекпоїнт може працювати з R=1 у бюджетній версії та R=20 у преміум-версії. Ззовні видно лише запит та відповідь; кількість внутрішніх проходжень залишається невидимою, якщо тільки постачальник не повідомить про це.

Чому лабораторії цього хочуть: вартість голосових міркувань

На деякий час відкладімо питання безпеки, адже економічні аргументи самі по собі досить переконливі.

Механізм послідовних міркувань працює як телеграф, який бере плату за кожне слово. Кожен токен міркування генерується послідовно, кожен наступний токен враховує попередні, і він займає місце у кеші KV протягом усього запиту. У підсумку постачальники стягують з клієнтів плату за кожен токен за роботу самої моделі.

Латентні цикли забезпечують послідовні обчислення без випуску додаткових токенів. Не існує витрат на генерацію кожної думки, немає збільшення довжини контексту та жодного додаткового тиску на кеш. На рівні мільярдів запитів на міркування щодня внутрішнє оброблення міркувань є як рішенням з точки зору ефективності, так і архітектурним рішенням. Це також чудово підходить до ступеневої ціноутворення: той самий контрольний пункт, але використаний більшу кількість разів, дозволяє відповідати на складніші запитання за вищою ціною, а позначка „міркування“ компенсує цю різницю.

Два способи придбання можливостей: широкий чи глибокий

Якщо ви виконуєте інференс локально, баланс виглядає інакше. Зараз існують дві різні стратегії, які використовують різні ресурси.

Підхід, який обрали більшість відкритих моделей, — це використання методу широкого поєднання експертів. Наприклад, Flash-Next від Qwen має 512 експертів, причому активується лише близько 2% з них на кожен токен. Це паралельні обчислення, обмежені обсягом пам’яті; на MacBook з 64 ГБ стверджується, що він може обробляти приблизно 30 токенів на секунду.

Використання багато пам’яті коштує багато, а пам’ять стала дефіцитним та дорогим компонентом. На момент написання цього тексту середні ціни на набір DDR5 об’ємом 64 ГБ зросли з приблизно 191 долара у серпні 2025 року до близько 1 118 доларів через рік, що становить зростання приблизно на 485% — більше, ніж у більшості інших комплектуючих ПК, включаючи GPU. Причиною є інфраструктура ШІ: виробники пам’яті переорієнтовують виробництво на пам’ять з високою пропускною здатністю для прискорювачів у дата-центрах, великі технологічні компанії заздалегідь резервують потужності, і очікується, що дефіцит триватиме до 2027 року. Розглядайте ці цифри як моментальний знімок та перевіряйте поточні ринкові дані, перш ніж покладатися на них.

Рекурентна глибина, навпаки, робить процес глибшим: ті самі шари виконуються R разів. Це займає час. На локальному обладнанні кожен додатковий цикл знижує швидкість декодування; при R=4 модель, яка декодувала 30 токенів на секунду, буде працювати приблизно на рівні 7 токенів на секунду. Модель з циклами на ноутбуці не виявляє очевидних проблем — вона просто уповільнюється зі збільшенням глибини.

Це пояснює її привабливість. Цикли дозволяють отримати більше обчислень з кожного байта ваг, які потрібно завантажувати з пам’яті, а пропускна здатність пам’яті є обмеженим ресурсом. Арифметичні пристрої, які виконують додаткові проходи, зазвичай перебувають у стані спокою між завантаженнями даних з пам’яті. Широкі моделі витрачають ресурс, за яким конкурують усі, тоді як глибокі моделі використовують ресурс, який клієнти дата-центрів ніколи не бачать у деталях. Однак на власному пристрої ви бачите це безпосередньо у вигляді нижчого показника токенів на секунду.

Шлях досліджень: вісім років публікацій у відкритому доступі

Жодна з основних ідей не є секретною. Основний механізм вже описаний у науковій літературі з 2018 року, і прочитавши ці статті, ви краще зрозумієте моделі з циклами, ніж за допомогою будь-якої презентації продукту.

Розділення ваг у глибинних моделях (2018–2019)

• Universal Transformer (Dehghani та ін., 2018). Оригінальний підхід з циклами: повторне застосування однакових шарів із спільними параметрами. Він показав кращі результати, ніж трансформери такого ж розміру, у завданнях GLUE, використовуючи приблизно чверть кількості операцій FLOPs, і був широко цитований, проте ніхто не впровадив його у великих масштабах.
• ALBERT (2019). Використовував спільне використання шарів як техніку стиснення, показавши, що повторне використання глибинних шарів є дешевшим, ніж створення додаткових унікальних шарів.

Міркування у прихованому просторі (2024–2025)

• Coconut (Meta, грудень 2024 року). Його назва «Навчання LLMs міркувати у безперервному латентному просторі» описує суть: проміжні кроки міркування залишаються у прихованих векторах, а лише висновок перетворюється на текст. У завданнях планування він перевершив метод chain-of-thought, створюючи менше видимих кроків, що є прямим запереченням припущення про те, що більше письмових міркувань означає краще міркування.
• Huginn (Geiping та ін., лютий 2025 року), «Масштабування обчислень під час тестування за допомогою латентних міркувань». Модель з 3,5 млрд параметрів, навчена на 800 млрд токенів. Зберігаючи ваги та дані незмінними та змінюючи лише кількість ітерацій з r=1 до r=32, було досягнуто покращення результатів ARC-E з 34,9 до 69,9, причому ефективність міркувань дорівнювала ефективності моделі з 50 млрд параметрів.

Змішання рекурсій (липень 2025 року). Замість рівномірного оброблення кожного токена, кожен токен має власну глибину рекурсії. Прості токени виходять після першого проходу; складні продовжують ітеруватися. Результатом є адаптивне обчислення для кожного токена, що додатково дає економію ресурсів завдяки кешу KV.

Відкриті ваги та масштабування (2025–2026)

• Ouro / LoopLM (ByteDance, жовтень 2025 року). Це найбільш практично значущий варіант, оскільки ваги моделей опубліковані на Hugging Face. До цієї серії належать моделі з кількістю параметрів 1,4 млрд та 2,6 млрд, навчені на 7,7 трильйонів токенів; вони, за даними досліджень, дорівнюють найсучаснішим моделям із кількістю параметрів до 12 млрд. У контрольованих експериментах покращення продуктивності пояснювалися маніпулюванням знаннями, а не їх кількістю: ці моделі не зберігають більше фактів, але ефективніше їх використовують. Команда також виявила, що сліди міркувань LoopLM краще відповідали його кінцевим відповідям, ніж сліди ланцюгового мислення.

„Кількісна оцінка необхідності ланцюга мислення через непрозору послідовну глибину“ (березень 2026 року). Наукова стаття, яка надає термінологію для цих дискусій. Непрозора послідовна глибина — це довжина обчислень, яку мережа може виконати без інтерпретованих проміжних кроків, і автори оприлюднили інструмент для обчислення її верхньої межі для будь-якої мережі.

„Розріджені шари є критичними для масштабування циклічних моделей мови“ (травень 2026 року). Щільні циклічні моделі погано масштабуються, тоді як циклічні моделі типу mixture-of-experts ефективно масштабуються та перевершують стандартні базові моделі, оскільки під час кожного проходження через спільні шари активуються різні експерти. Це забезпечує підвищену виразність без додавання параметрів.

Моделі з циклами для виклику інструментів (серпень 2026 року). Багатоетапні завдання з урахуванням залежностей покращуються завдяки рекурентній структурі, що свідчить про те, що цикли допомагають у плануванні, а не лише при розв’язанні головоломок.

У сукупності механізм, докази з тестових сценаріїв, алгоритм масштабування та інструмент вимірювання вже деякий час є загальнодоступними. Новизною є їх практичне застосування, а не сама ідея.

Що це, ймовірно, означає для відкритих моделей та локального інференсу

Наведене нижче — це прогнози, а не факти, але кожен з них ґрунтується на вищезгаданих дослідженнях.

Відкрите видання з циклами, ймовірно, вже близько

Ефективним підходом до масштабування є архітектура типу „суміш експертів“, а провідні відкриті сім’ї моделей, такі як Qwen та DeepSeek, вже є архітектурами типу „суміш експертів“. Додавання рекурентного ядра до існуючої моделі типу MoE є поступовою зміною, а не повним переробленням, тому цілком логічно очікувати випуску відкритої версії з рекурентним ядром протягом одного-двох поколінь моделей, ймовірно, з акцентом на можливість довшого мислення, а не на більший розмір.

Менші файли за ту саму продуктивність

Локальні моделі довгий час обмежувалися розміром файлів: величезні файли з параметрами, обмеження оперативної пам’яті та необхідність ручного переміщення окремих шарів моделі, щоб вона помістилася. Якщо модель розміром 1,4 млрд параметрів справді може конкурувати з щільними моделями у 12 млрд параметрів, це означає, що замість завантаження файлу розміром 24 ГБ достатньо лише 3 ГБ. Таку модель можна доопрацювати за допомогою технології LoRA на пристроях для споживачів, що звільняє пам’ять для обробки більших обсягів контексту. Ємність обробки даних на кожен байт стане перевагою для користувачів із однією відеокартою чи ноутбуком. Якщо ви порівнюєте локальні моделі з API, що працюють в хмарі, з міркувань надійності, наша стаття про ризик залежності від доступу до ШІ розглядає більш широкий спектр протиставлень.

Апаратне забезпечення типу Edge ідеально підходить для роботи з циклами

Цикли споживають обчислювальні ресурси, а не пропускну здатність пам’яті, і пристрої на базі Apple Silicon мають достатньо обчислювальних можливостей порівняно з їхньою пропускною здатністю. Цей баланс погано підходив для попереднього покоління завдань інференсу, але чудово підходить для цього. Моделі з циклами також сприяють оптимізації ядра: менша кількість різних операцій та ваги, які залишаються у кеші протягом багатьох проходжень. Відсутньою ланкою є програмне забезпечення. Для того, щоб місцеві користувачі могли отримати вигоду, такі середовища виконання, як llama.cpp та MLX, потребують прямої підтримки рекурентної глибини та адаптивного раннього вихіду.

Глибина може стати налаштуванням для користувача

За допомогою рекурсії за кожним токеном невелика модель може використовувати ресурси великої моделі лише там, де це необхідно: швидко для звичайного тексту, глибоко для складних кроків. Так само, як сьогодні ви налаштовуєте температуру вибору промптів (див. наш посібник про температуру, top-k та top-p), ви також можете обирати рівень глибини обробки для кожного запиту. Результати використання інструментів вказують на те саме: агенти, які планують, використовують інструменти та відстежують стан, отримують найбільшу користь від додаткової глибини, що саме й потрібно локальному асистенту з програмування.

Відкриті моделі могли б змінити співвідношення прозорості та продуктивності

Інструмент opaque-serial-depth є загальнодоступним. Закриті постачальники можуть використовувати лупи з невідомою величиною R, але будь-хто, хто має ваги моделей у відкритому форматі, може безпосередньо виміряти глибину прихованого міркування моделі. Тому використання відкритих моделей не обов’язково призводить до повторення проблеми непрозорості; число, яке приховують закриті лабораторії, може стати виміряною та опублікованою характеристикою відкритої моделі. Висновки проекту Ouro також застерігають від припущення, що латентні міркування за своєю природою є менш надійними: їхні сліди фіксували кінцеві відповіді точніше, ніж традиційний підхід з послідовними міркуваннями.

Справжнє відкрите питання полягає не у тому, чи будуть відкриті моделі використовувати лупи, адже ваги моделей Ouro та Huginn вже доступні. Йдеться про те, чи буде спільнота поєднувати лупи з єдиним підходом, від якого відмовилися закриті лабораторії — оприлюдненням кількості лупів.

Коли рекурентна глибина не є правильним інструментом

• Якщо вам потрібні обґрунтування, які можна перевірити, наприклад у регульованих робочих процесах, видимий ланцюжок міркувань залишається простішим для перевірки, ніж будь-який прихований процес.
• Якщо на локальному пристрої затримка важливіша за точність, кожен додатковий цикл безпосередньо знижує продуктивність.
• Якщо час виконання моделі не підтримує рекурентні ядра чи адаптивний вихід, ви ще не побачите покращень у ефективності.

Підсумок

Протягом приблизно десяти років існування моделей мови додаткові обґрунтування доводилося формулювати у тексті, і з’явилась необхідність у його аналізі. Рекурентна структура усуває цю залежність: модель може виконувати значущі послідовні обчислення, не створюючи окремих слів. Вікно моніторингу все ще існує, але воно більше не обов’язково показує все.

Історія досліджень є обнадійливою з одного боку. Техніки, що лежать в основі моделей з циклами, разом із параметрами типу open weights та інструментом для вимірювання прихованої глибини, вже є загальнодоступними. Закриті лабораторії можуть залишати собі перевагу в початкових кроках, але відкрита екосистема може встановити стандарт.

• Метод recurrent depth повторно використовує основний блок шарів R разів для обробки прихованого стану, що дозволяє здійснювати послідовні обчислення без додаткових токенів чи параметрів.
• Він жертвує пам’яттю заради часу, що робить його привабливим для дата-центрів та локального обладнання з високою потужністю обчислень, але обмеженою пропускною здатністю.
• Universal Transformers, Coconut, Huginn, Mixture-of-Recursions, Ouro та моделі з циклами типу MoE разом описують механізм функціонування та способи його масштабування.
• Інформація про те, що Astra використовує цей підхід, залишається непідтвердженою; кількість циклів слід розглядати як питання, яке потрібно поставити будь-якому постачальнику.

Для відкритих моделей вимірювання та публікація глибини за допомогою інструменту opaque-serial-depth є найкориснішим засобом захисту, який існує.