Wyjaśnienie rekurencyjnej głębokości: transformery pętlowe i ukryte rozumowanie

Większość dzisiejszych modeli rozumowania może przekazywać myśli sekwencyjne tylko poprzez zapisywanie ich jako tokenów, dlatego transkrypcje typu chain-of-thought stały się głównym narzędziem do monitorowania tego, co robi model. Zmiany głębokości rekurencyjnej polegają na tym, że model ponownie uruchamia część swojej warstwowej struktury na swoim stanie ukrytym przed wygenerowaniem jakiegokolwiek wyniku, przez co część „myślenia” nigdy nie przechodzi w tekst. Ten artykuł wyjaśnia, jak działa ten mechanizm, dlaczego jest tak atrakcyjny pod względem ekonomicznym, jakie opublikowane badania już to potwierdzają oraz co może oznaczać to dla modeli otwartych działających na własnym sprzęcie oraz dla wszystkich, którzy polegają na analizie rozumowania modelu.

Znany wzorzec: ukryty mechanizm, otwarta replikacja

Historia modeli opartych na rozumowaniu rozegrała się już raz. Gdy w 2024 roku OpenAI opublikowało o1, model rozważał różne opcje przed udzieleniem odpowiedzi, ale jego proces rozumowania był ukryty i skrócony, a firma otwarcie przyznała, że to ukrywanie było celowe. Wielu obserwatorów zakładało, że ta technologia pozostanie własnością firmy przez lata. Zamiast tego nieco ponad rok później DeepSeek opublikowało R1 z otwartymi wagami modelu oraz widocznymi śladami jego rozumowania, a społeczność otwartej nauki szybko odtworzyła ten podejście, gdy tylko jego zasady stały się publiczne.

Wzorzec ten jest prosty: zamknięta firma wprowadza nową funkcjonalność, utrzymuje mechanizm w tajemnicy, a później badania otwarte odtwarzają ją i udostępniają bezpłatnie. W przypadku rozwiązań typu DeepSeek obserwuje się ten sam schemat, z jedną istotną różnicą: już przed potwierdzeniem wersji zamkniętej istnieją otwarte implementacje z opublikowanymi wagami modelu.

Co zostało potwierdzone na temat Astry, a co nie

OpenAI uruchomiło Astrę 2 września 2026 roku. Kluczowe jest tutaj rozróżnianie różnych twierdzeń, ponieważ interesująca jest właśnie ta część, która nie jest oficjalna.

Potwierdzone przez OpenAI

• Astra to pierwszy model, który firma oceniła jako „Krytyczny” pod względem bezpieczeństwa cybernetycznego.
• Osiągnęła 100% wyników na ExploitBench, standardowym teście, w którym modele znajdują i wykorzystują rzeczywiste luki w oprogramowaniu.
• Dostarczana była z mechanizmami monitorowania toku rozumowania, które obserwują jej pisemne uzasadnienia.

Doniesione, ale nierozpatrzone

1 września The Information poinformowało, że Astra wykorzystuje strukturę rekurencyjną, co oznacza wewnętrzne pętle rozumowania. OpenAI ani nie potwierdziło, ani nie zaprzeczyło temu. Jest to najbardziej wiarygodne źródło informacji, oparte na raportach, a nie plotkach, ale nie należy traktować tego jako ustalonego faktu.

Stwierdzone, ale niepodlegające weryfikacji

Główny naukowiec Jakub Pachocki publicznie oświadczył, że głębokość grafu obliczeniowego Astry wynosi „dwukrotność głębokości GPT-4”. Jeśli to prawda, oznaczałoby to, że pętle są celowo niewielkie, a rozumowanie modelu jest tylko nieco mniej przejrzyste niż w przypadku konwencjonalnego modelu jednopassowego. Dokładna wartość nie została opublikowana, więc osoby z zewnątrz nie mogą zweryfikować tych danych; trzeba im wierzyć na słowo.

Czysta spekulacja

Przypuszczenia, że Astra to w rzeczywistości plotkowany „GPT-6”, nie mają żadnych podstaw. Nikt poza firmą o tym nie wie.

Dlaczego pytanie dotyczące monitoringu jest tak istotne

W lipcu 2025 roku czterdzieści jeden badaczy z OpenAI, DeepMind, Anthropic oraz UK AI Security Institute podpisało wspólny dokument z opiniami na temat monitorowania procesu myślenia. W dokumencie tym ostrzegano konkretnie, że architektury oparte na rozumowaniu ukrytym, które działają na podstawie wektorów zamiast słów, mogą zamknąć okno monitorowania, od którego zależy wiele obecnych praktyk bezpieczeństwa. Pachocki należał do sygnatariuszy. Jeśli informacje są prawdziwe, laboratorium to już wysłało taki rodzaj architektury, który jego własny główny naukowiec określił jako zagrożenie dla nadzoru. Aby uzyskać szerszy przegląd tego, jak Astra porównuje się z innymi nowoczesnymi agentami sztucznej inteligencji, zapoznaj się z naszym porównaniem Astry, Flasha, Fable i Mythosa.

Jak działa mechanizm rekurencyjnej głębi

Standardowy transformator przekazuje każdy token przez swoją warstwę warstw dokładnie raz. Jeśli model potrzebuje więcej sekwencyjnych obliczeń, aby rozwiązać problem, jedynym narzędziem, jakie ma, jest generowanie większej liczby tokenów: każdy widoczny krok rozumowania to kolejna przechodzenie danych, a każdy krok stanowi tekst, który można odczytać.

Model o strukturze rekurencyjnej dzieli tę warstwę na trzy części. Część wstępna wprowadza dane wejściowe do stanu ukrytego, blok główny jest stosowany wielokrotnie do tego stanu, a część końcowa mapuje ostateczny stan na wynik. Poniższy diagram porównuje obie struktury; zauważ, że blok główny w formie pętli ponownie wykorzystuje te same wagi przy każdym przechodzeniu, a wszystkie powtórzenia kończą się przed wygenerowaniem jakiegoś słowa.

Standard:  token → L1 → L2 → ... → L96 → out
           (one pass; "extra thinking" = more visible words)

Astra:     token → PRELUDE → [ CORE × R ] → CODA → out
                                    ↑
                  the same block of layers, re-run on the
                  model's own hidden state, R times -
                  before a single word is written

Jako wzór można to zapisać jako jedną iterację h_next = f(h_current), przy czym f oznacza za każdym razem tę samą wspólną grupę warstw. Kolejne kroki od drugiego do R nie wprowadzają żadnych nowych parametrów; po prostu ponownie stosują te same wagi do stanu, który ciągle się zmienia. Przydatnym modelem mentalnym jest szkic, który jest kilka razy poprawiany w tajemnicy, a do odbiorcy trafia tylko jego ostateczna wersja.

Kluczowym skutkiem jest to, że każda iteracja po pierwszej odbywa się wyłącznie w przestrzeni wektorowej, a wektory nie pozostawiają żadnych śladów. Nic z tych pośrednich kroków nie jest zapisywane w miejscu, które mogłby odczytać monitor.

Liczba iteracji pętli R to również ustawienie związane z czasem wykonywania, a nie inny model. Ten sam punkt kontrolny może działać przy R=1 w tańszej wersji i przy R=20 w wersji premium. Z zewnątrz widzi się tylko pytanie i odpowiedź; nie wiadomo, ile wewnętrznych przetworzeń miało miejsce pomiędzy nimi, chyba że dostawca to poda.

Dlaczego laboratoria tego chcą: koszt myślenia na głos

Na chwilę odłóżmy kwestie bezpieczeństwa, ponieważ sam argument ekonomiczny jest wystarczająco mocny.

Rozumowanie typu chain-of-thought funkcjonuje jak telegraf, który pobiera opłatę za każde słowo. Każdy token rozumowania jest generowany sekwencyjnie, każdy kolejny token bierze z niego pod uwagę informacje, a on sam zajmuje miejsce w pamięci KV przez cały czas trwania żądania. Dostawcy ostatecznie pobierają od klientów opłaty, obliczane według ceny tokena, za własne prace przygotowawcze modelu.

Pętle latentne umożliwiają obliczenia sekwencyjne bez wytwarzania żadnych dodatkowych tokenów. Nie ma kosztu generowania na każdą myśl, nie następuje wzrost długości kontekstu ani dodatkowego obciążenia pamięci podręcznej. Przy skali miliardów zapytań analitycznych dziennie, przeniesienie procesu rozumowania do wewnątrz systemu jest decyzją zarówno strategiczną, jak i architektoniczną. Pasuje również idealnie do systemu cenowego opartego na poziomach: ten sam punkt kontrolny, wykonywany większą liczbę razy, odpowiada na trudniejsze pytania po wyższej cenie, a etykieta „myślenie” pokrywa tę różnicę.

Dwie metody nabywania możliwości: szeroka czy głęboka

Jeśli uruchamiasz procesy analityczne lokalnie, sytuacja wygląda inaczej. Istnieją teraz dwie odrębne strategie, które wykorzystują różne zasoby.

Najpopularniejszym podejściem stosowanym przez najbardziej otwarte modele jest wykorzystanie metody szerokiego zestawu ekspertów. Na przykład Flash-Next od Qwen ma do dyspozycji 512 ekspertów, z których aktywowane jest jedynie około 2% na każdy token. Jest to obliczanie równoległe, ograniczone ilością pamięci; na MacBooku o pojemności 64 GB udaje się uzyskać prędkość około 30 tokenów na sekundę.

Korzystanie z dużej ilości pamięci kosztuje pamięć, a ta stała się skąpym i drogim komponentem. W momencie pisania tego tekstu, podawane ceny zestawu 64GB DDR5 wzrosły ze średnich około 191 dolarów w sierpniu 2025 roku do około 1 118 dolarów rok później, co stanowi wzrost o około 485% – większy niż w przypadku większości innych części PC, włączając karty graficzne. Przyczyną jest infrastruktura AI: producenci pamięci przenoszą produkcję na pamięcie o wysokiej przepustowości przeznaczoną do akceleratorów w centrach danych, a firmy o dużych rozmiarach rezerwują moc z wyprzedzeniem o lata, przy czym brak ten ma trwać aż do 2027 roku. Traktuj te dane jako chwilowy obraz sytuacji i sprawdź aktualne informacje rynkowe przed ich wykorzystaniem.

Głębokość rekurencyjna zmienia się zamiast tego na większą: te same warstwy są wykonywane R razy. To pochłania czas. Na lokalnym sprzęcie każdy dodatkowy pętla zmniejsza szybkość dekodowania; przy R=4 model, który dekodował 30 tokenów na sekundę, spadnie do około 7. Model z pętlami na laptopie nie zawodzi w sposób widoczny, po prostu zwalnia wraz ze wzrostem głębokości.

To tłumaczy jego atrakcyjność. Pętle wydobywają więcej obliczeń z każdego bajtu wag, który musi zostać pobraany z pamięci, a przepustowość pamięci jest ograniczonym zasobem. Jednostki arytmetyczne, które wykonywają dodatkowe przechodzenia, i tak często są bezczynne pomiędzy pobieraniem danych z pamięci. Modele szerokie zużywają ten zasób o który wszyscy walczą; modele głębokie zużywają taki, którego klienci centrów danych nigdy nie widzą w szczegółach. Na własnym komputerze jednak widzisz to bezpośrednio jako niższą liczbę tokenów na sekundę.

Ślady badań: osiem lat prac opublikowanych otwarcie

Żadna z podstawowych koncepcji nie jest tajemnicą. Podstawowy mechanizm jest dostępny w publikacjach naukowych od 2018 roku, a przeczytanie tych artykułów pozwoli ci lepiej zrozumieć modele typu looped niż jakakolwiek informacja z oficjalnego komunikatu produktowego.

Głębokość z udziałem wspólnych wag (2018–2019)

• Universal Transformer (Dehghani i in., 2018). Początkowa wersja modelu looped: powtarzalne stosowanie tych samych warstw z wspólnymi parametrami. Przewyższał transformery tej samej wielkości w zadaniach GLUE, zużywając jednocześnie około ćwierci zasobów obliczeniowych FLOPs, i był często cytowany, mimo to nikt nie zastosował go na dużą skalę.
• ALBERT (2019). Wykorzystywał współdzielenie warstw jako technikę kompresji, pokazując, że ponowne użycie istniejących warstw jest tańsze niż tworzenie dodatkowych, unikalnych warstw.

Rozumowanie w przestrzeni latentnej (2024–2025)

• Coconut (Meta, grudzień 2024). Jego tytuł, „Training LLMs to reason in a continuous latent space”, opisuje ideę: pośrednie rozumowanie zachodzi w ukrytych wektorach, a tylko wniosek jest przekształcany w tekst. W zadaniami planistycznych przewyższył metodę chain-of-thought, generując mniej widocznych kroków, co stanowi bezpośrednie zakwestionowanie założenia, że im więcej pisemnego rozumowania, tym lepsze rozumowanie.
• Huginn (Geiping i in., luty 2025), „Scaling up Test-Time Compute with Latent Reasoning”. Model o 3,5 miliarda parametrów, wyszkolony na 800 miliardach tokenów. Utrzymując ciężary i dane niezmienione oraz zmieniając jedynie liczbę pętli z r=1 na r=32, udało się podnieść wynik ARC-E z 34,9 na 69,9, przy czym poprawa w rozumowaniu odpowiadała zasobom obliczeniowym modelu o 50 miliardach parametrów.

Mieszanka rekurencji (lipiec 2025 r.). Zamiast przetwarzać każdy token w równym stopniu, każdy token ma własną głębokość rekurencji. Tokeny proste są przetwarzane po pierwszym przejściu, natomiast trudne kontynuują iteracje. Wynikiem jest adaptacyjne obliczanie dla każdego tokenu, a dodatkową korzyścią jest oszczędność pamięci KV-cache.

Ciężary otwarte i skalowanie (2025–2026)

• Ouro / LoopLM (ByteDance, październik 2025). To najbardziej praktycznie istotny model, ponieważ jego wagi są publikowane na Hugging Face. Rodzina ta obejmuje modele o pojemności 1,4 miliarda oraz 2,6 miliarda parametrów, wytrenowane na 7,7 biliona tokenów; według doniesień dorównują one najnowocześniejszym modelom o maksymalnie 12 miliardach parametrów. Eksperymenty kontrolne wskazały, że poprawa wyników wynikała z lepszej manipulacji wiedzą, a nie z większej jej pojemności – modele te nie przechowują więcej faktów, lecz potrafią je skuteczniej wykorzystać. Zespół odkrył również, że ślady rozumowania LoopLM lepiej odpowiadały jego ostatecznym odpowiedziom niż ślady typu chain-of-thought.

„Ilościowe określenie konieczności łańcucha myślowego poprzez nieprzejrzystą głębokość sekwencyjną” (marzec 2026 r.). Artykuł teoretyczny dostarczający słownictwa do tej debaty. Nieprzejrzysta głębokość sekwencyjna to długość obliczeń, jakie sieć może wykonać bez interpretowalnych kroków pośrednich, a autorzy opublikowali narzędzie do obliczania górnej granicy tej wartości dla dowolnej sieci.

„Rzadkie warstwy są kluczowe dla skalowania modeli językowych z pętlami” (maj 2026 r.). Gęste modele z pętlami nie skalują się dobrze, natomiast modele typu mixture-of-experts z pętlami tak robią i przewyższają standardowe rozwiązania, ponieważ różni eksperci aktywują się przy każdym przetworzeniu wspólnych warstw. Dzięki temu uzyskuje się wyższą wyraźność bez dodawania parametrów.

Modele z pętlami do wywoływania narzędzi (sierpień 2026 r.). Zadania agentowe wieloetapowe, uwzględniające zależności, poprawiają się wraz ze wzrostem głębokości rekurencyjnej, co wskazuje, że pętle pomagają przy planowaniu, a nie tylko przy rozwiązywaniu zagadek.

Łącznie mechanizm, dowody z benchmarków, wzór skalowania oraz narzędzie pomiarowe są już od jakiegoś czasu dostępne publicznie. Nowością jest ich zastosowanie w praktyce, a nie sama idea.

Co to prawdopodobnie oznacza dla modeli otwartych i lokalnej inferencji

Poniższe są prognozami, a nie faktami, ale każda z nich wynika z powyższych badań.

Prawdopodobnie wkrótce pojawi się otwarta wersja z pętlami

Skutecznym rozwiązaniem jest architektura typu mixture-of-experts w formie pętli, a czołowe otwarte rodziny modeli, takie jak Qwen i DeepSeek, to już architektury tego typu. Dodanie rdzenia rekurencyjnego do istniejącego modelu MoE stanowi zmianę stopniową, a nie całkowitą przebudowę, więc można rozsądnie oczekiwać wersji otwartej z rdzeniem rekurencyjnym w ciągu jednej lub dwóch generacji modeli, prawdopodobnie promowanej pod hasłem dłuższego myślenia zamiast większych rozmiarów.

Mniejsze pliki przy tej samej wydajności

W przypadku inferencji lokalnej decydujący wpływ ma rozmiar pliku: ogromne pliki wag, ograniczenia pamięci oraz ręczne przenoszenie warstw ekspertów tylko po to, by model mógł się zmieścić. Jeśli model o wielkości 1,4 miliarda parametrów może rzeczywiście konkurować z modelami gęstymi o 12 miliardów parametrów, oznacza to w przybliżeniu pobranie zaledwie 3 GB zamiast 24 GB. Taki model można dostosować za pomocą LoRA na sprzęcie konsumenckim, co zwalnia pamięć i umożliwia obsługę dłuższych kontekstów. Możliwości uzyskiwane na jeden bajt przesuną się na korzyść osób posiadających pojedynczą kartę graficzną lub laptopa. Jeśli rozważasz lokalne modele w porównaniu z API-hostowanymi ze względu na odporność, nasz artykuł o dostępie do AI jako ryzyku zależności omawia szersze aspekty tego kompromisu.

Sprzęt typu Edge doskonale nadaje się do modeli z pętlami

Pętle zużywają zasoby obliczeniowe, a nie przepustowość pamięci, a urządzenia takie jak maszyny Apple Silicon posiadają wystarczające zasoby obliczeniowe w porównaniu z ich przepustowością. Ta równowaga nie była odpowiednia dla poprzedniej generacji zadań inferencyjnych, natomiast doskonale pasuje do tej obecnej. Modele z pętlami są również przyjazne optymalizacji jądra: jest mniej różnych operacji, a wagi pozostają w pamięci cache przez kolejne przetwarzania. Brakującym elementem jest oprogramowanie – środowiska takie jak llama.cpp i MLX będą wymagać wyraźnego wsparcia dla rekurencyjnej głębokości i adaptacyjnego wczesnego zakończenia, zanim lokalni użytkownicy będą mogli odnieść korzyści.

Głębokość może stać się ustawieniem dostępnym dla użytkownika

Dzięki rekurencji na poziomie tokenów mały model może wykorzystywać zasoby dużego modelu tylko wtedy, gdy to konieczne – szybko przy rutynowym tekście, w sposób bardziej zaawansowany przy trudniejszych zadaniach. Podobnie jak dziś dostosowujesz temperaturę próbkowania (zobacz nasz przewodnik po temperaturze, top-k i top-p), możesz też wybrać określony budżet głębokości na każde żądanie. Wyniki testów z wykorzystaniem narzędzi wskazują na to samo: agenci, którzy planują, korzystają z narzędzi i śledzą stan, najbardziej czerpią korzyści z większej głębokości, co jest dokładnie tym, czego potrzebuje lokalny asystent programistyczny.

Otwarte modele mogłyby odwrócić ten kompromis dotyczący przejrzystości

Narzędzie opaque-serial-depth jest dostępne publicznie. Zamknięci dostawcy mogą używać pętli z nieujawnionym wartością R, ale każdy, kto posiada otwarte wagi modelu, może bezpośrednio zmierzyć ukrytą głębokość rozumowania modelu. Dlatego otwarte podejście nie musi powtarzać problemu niewidzialności; liczba, którą zamknięte laboratoria ukrywają, może stać się mierzalną i publikowaną cechą otwartego modelu. Wyniki badań Ouro ostrzegają również przed założeniem, że ukryte procesy rozumowania są z natury mniej wiarygodne – ich ślady rejestrowały ostateczne odpowiedzi dokładniej niż tradycyjny model łańcucha myślenia.

Prawdziwym otwartym pytaniem nie jest to, czy otwarte modele będą używać pętli, skoro wagi Ouro i Huginn są już dostępne. Chodzi o to, czy społeczność połączy pętle z jedyną praktyką, której zamknięte laboratoria odmawiają przyjęcia: publikowaniem liczby pętli.

Gdy głębokość rekurencyjna nie jest odpowiednim narzędziem

• Jeśli potrzebujesz rozumowania poddawalnego audytowi, na przykład w zregulowanych procesach pracy, widoczny łańcuch rozumowania jest łatwiejszy do sprawdzenia niż jakikolwiek ukryty proces.
• Jeśli opóźnienie jest ważniejsze od dokładności na urządzeniu lokalnym, każdy dodatkowy pętla bezpośrednio zmniejsza przepustowość.
• Jeśli czas wykonywania inferyencji nie zawiera wsparcia dla jąder rekurencyjnych lub adaptacyjnego zakończenia, nie dostrzeżesz jeszcze korzyści wynikających z wydajności.

Podsumowanie

Przez około dekadę rozwoju modeli językowych dodatkowe rozumowanie musiało być wyrażane w tekście, a nadzór nad jego lekturą stawał się coraz ważniejszy. Rekurencyjna głębia eliminuje to powiązanie: model może wykonywać znaczące obliczenia sekwencyjne bez tworzenia żadnego słowa. Okno monitorowania nadal istnieje, ale nie musi już pokazywać wszystkiego.

Zapis badań jest pocieszający pod jednym względem. Techniki leżące u podstaw modeli pętlowych, wraz z otwartymi wagami oraz narzędziem do mierzenia ukrytej głębokości, są już dostępne publicznie. Zamknięte laboratoria mogą mieć przewagę na początkowym etapie, ale otwarty ekosystem może ustalić standard.

• Recurrent depth wykorzystuje kluczowy blok warstw R razy na stanie ukrytym, umożliwiając obliczenia sekwencyjne bez dodatkowych tokenów lub parametrów.
• Łączy pamięć z czasem, co czyni go atrakcyjnym dla centrów danych oraz dla lokalnego sprzętu o dużej mocy obliczeniowej, ale ograniczonej przepustowości.
• Universal Transformers, Coconut, Huginn, Mixture-of-Recursions, Ouro oraz looped MoE razem dokumentują ten mechanizm i sposoby jego skalowania.
• Doniesienia o tym, że Astra go wykorzystuje, pozostają niepotwierdzone; liczba pętli należy traktować jako pytanie do zadania każdemu dostawcy.

Dla modeli otwartych pomiar i publikacja głębokości za pomocą narzędzia opaque-serial-depth stanowi najskuteczniejszą dostępną metodę ochrony.