Артыкулы для тых, хто
выводзіць стэк у прод
Арыгінальныя матэрыялы пра React, Node.js, TypeScript і AI — з той жа практыкі, што і наша аператарскае ПЗ. Тэкст артыкулаў па-англійску.
Тэг: qwen
Практычныя прытамулі: ToolCallingAgent проты CodeAgent: Калькі лепша працуе?
Практычныя прыказкі: ToolCallingAgent проты CodeAgent: калькольнік, які парадоксальнае выкаання ў справах з контрактамі, пераказамі та слотамі для коду для команд, якія выкааняюць гэты патэрн.
916 слоўЧытацьПрактычныя прытамулкі: Местныя LLM-ы для выкарыстоўвання Graph RAG: Перапрацаваны стандарт адлікання на середзіну 2026 года
Практычныя прыказкі: Адмініструванне локальных LLM-модэляў для выкарыстоўвання графаў у процесе RAG-экстракцыі: перапрыямлены стандарты для середзіны 2026 года: контракты, перакрыцчы і шаблоны коду для команд, якія викорыстоўваюць гэты падход.
1567 слоўЧытаць220 tok/s: Qwen апавядае пра два 3090 — што трэба пераканаліць
Падкісна групаванне, квантызацыя і запісы памерэння дапамагаюць падтвердзіць тверджэння пра працёздатнасць спяльноты.
1409 слоўЧытацьLangChain плюс Ollama: местныя ланцюгі Qwen, інструменты та структура
Указаце langchain-ollama на локальны тэг qwen для ланцаў, стрімавання, інструментаў та структураванага выходу без ключаў API хмары.
890 слоўЧытацьВыкананне Qwen3.8-27B на адзінам RTX 3090 з падправленым vLLM і DFlash2
Як форк vLLM 0.28.0 з закрепленым варыянтом, які выкарыстоўвае реквантазаваныя эмбеддінгі та тэхналогію DFlash2, дазволяе запрацоўваць гібрыдны модель размерам 27 мільярда параметраў на карцы памяці ў 24 ГБ, і чаму дзейство з дужа дзьвінгай кантэкстам уповольняе його працэс.
3259 слоўЧытацьВыкананне Qwen3.8-Flash-Next на картаках RTX 3090 з адпыткамі Tensor Offloading ад llama.cpp
Чаму рыхлы модель па 88 ГБ з 180 мільярда параметраў падходзіць для спожывачскіх GPU, і як такі флагі ля llama.cpp, як -ot, -ncmoe і mmap, дзельнуюць яе межаў VRAM, RAM і NVMe.
2715 слоўЧытацьСтварэнне локальнага клону Angry Birds з адпаведнасцю Qwen3.8-27B і Pi
Дазвольце даклэ научыцца, як стварыць абсалютна локальную рабочую схему для програмавання з ай-і, выкарыстоўваючы LM Studio і агента Pi, каб стварыць гэмавы рывень для Angry Birds з аднойчынай Qwen3.8-27B.
2102 слоўЧытаць
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.