Artykuły dla tych, którzy
wdrażają stack
Oryginalne materiały o React, Node.js, TypeScript i AI — z tej samej praktyki co nasze oprogramowanie operatorskie. Treść artykułów po angielsku.
Tag: Local AI
Uruchamianie Qwen3.8-27B na jednym RTX 3090 z poprawionym vLLM i DFlash2
Jak przymocowana gałąź vLLM 0.28.0 z rekwantyzowanymi embeddingami i technologią DFlash2 umożliwia uruchomienie hybrydowego modelu o wielkości 27 miliardów parametrów na karcie pamięci o pojemności 24 GB, oraz dlaczego długi kontekst spowalnia jego działanie.
15 min czytaniaWyjaśnienie rekurencyjnej głębokości: transformery pętlowe i ukryte rozumowanie
Jak transformery o głębokości rekurencyjnej (z pętlami) rozumują w stanie ukrytym, dlaczego laboratoria je chcą, co pokazują osiem lat publikacji naukowych oraz jakie ma to znaczenie dla lokalnej sztucznej inteligencji i nadzoru.
12 min czytaniaDostępna wersja Qwen3.8-Flash-Next na kartach RTX 3090 z użyciem mechanizmu offloadingu tensorów w llama.cpp
Dlaczego model typu „mieszanka ekspertów” o pojemności 88 GB i 180 miliardów parametrów, taki jak Qwen3.8-Flash-Next, pasuje do karty RTX 3090, oraz w jaki sposób llama.cpp z opcjami -ot, -ncmoe i mmap dzieli pamięć VRAM, RAM i NVMe.
12 min czytaniaDlaczego pobranie modelu o pojemności 17 GB nie oznacza, że potrzeba 17 GB pamięci do jego uruchomienia
Dowiedz się, w jaki sposób aktywne parametry, łączna liczba parametrów, wzrost pamięci cache KV oraz wysiłek potrzebny do rozumowania decydują o rzeczywistych kosztach pamięci i obliczeniowych związanych z uruchamianiem modelu językowego lokalnie.
12 min czytaniaTworzenie lokalnego klonu Angry Birds przy użyciu Qwen3.8-27B i Pi
Kompletny lokalny zestaw do programowania z AI, wykorzystujący LM Studio oraz agenta Pi: Qwen3.8-27B, umożliwia stworzenie rozgrywalnego poziomu z gry Angry Birds bez użycia chmurowych API, przy czym każdy krok instalacji jest wyświetlany.
9 min czytaniaDlaczego to dostęp do sztucznej inteligencji, a nie jej zdolności, stanowi prawdziwe ryzyko zależności.
Ten artykuł analizuje najnowsze incydenty związane z kontrolem eksportu modeli Claude i GPT-5.6, aby pokazać, że dostęp do modeli sztucznej inteligencji jest zmienną niestabilną, niezależną od samej zdolności technicznej.
11 min czytania
O tych artykułach
Wycena w 24 h
Potrzebujesz tego stacka w warstwie operatorskiej? Wyślij brief — wycena w 24 h.