Artykuły dla tych, którzy
wdrażają stack
Materiały o React, Node.js, TypeScript i AI. Przetłumaczony tekst jest pokazany, gdy istnieje. Jeśli nie, widać tekst angielski i dopisek o tym.
Tag: local-ai
Uruchamianie tego samego pętla rozmów OpenAI lokalnie za pomocą Ollamy
Uruchom lokalnie tę samą pętlę czatu OpenAI za pomocą Ollamy: skieruj Python SDK OpenAI na localhost i zachowaj swój kod. Żadnego klucza API, żadnych opłat za tokeny, żadnych danych, które by wychodziły.
4 min czytaniaOrnith-1.0-35B: Jakość modelu typu MoE o pojemności 27B na urządzeniu MacBook.
Jak model typu mixture-of-experts o pojemności 35B z 3B aktywnymi parametrami porównuje się z Qwen3.6, czego potrzebuje do działania w środowisku llama.cpp oraz w jakich aspektach sprawdza się najlepiej lub słabo.
4 min czytaniaQwen3.8-27B na karcie RTX 3090: 262 tys. tokenów kontekstu przy szybkości 65–80 tokenów na sekundę.
Przepis na uruchomienie zaawansowanego modelu 27B z pełnym kontekstem na pojedynczej karcie GPU o pojemności 24 GB: dostosowana wersja llama.cpp, kwantyzacja o rozmiarze 14,5 GB, pamięć cache Turbo3 oraz technika MTP drafting.
8 min czytaniaRecenzja Qwen 3.8-27B: testy wydajności, opinie społeczności i rzeczywistość sprzętowa
Qwen 3.8-27B kontra Opus 4.6, DeepSeek V4 Flash i GLM 5.2: testy wydajności, doniesienia społeczności, liczba tokenów na sekundę oraz karty graficzne, które zapewniają dobrą wydajność.
8 min czytaniaLokalna sztuczna inteligencja po Ollamie: Wybór środowisk w 2026 roku
Ollama to doskonałe narzędzie do szybkiego rozpoczęcia pracy, ale ma słaby plan kontroli długoterminowej. Który lokalny silnik LLM nadaje się do każdego etapu: llama.cpp, LM Studio, vLLM oraz powiązane narzędzia.
15 min czytania
O tych artykułach
Wycena w 24 h
Potrzebujesz tego stacka w warstwie operatorskiej? Wyślij brief — wycena w 24 h.