工程笔记
写给真正
交付技术栈的人
关于 React、Node.js、TypeScript 与 AI 的原创文章,来自与我们操作层软件同一套工程实践。正文为英文。
标签:transformers
实用笔记:人工智能何时应使用其记忆?关于持久性的实验
《实用笔记》操作指南:AI应在何时使用其内存?一项针对持久化模式的实验——适用于采用该模式的团队的合约、校验机制及即插即用代码模块。
2969 词阅读LLM端到端推理:预填充、解码、KV缓存与采样机制
通过流式处理对分词器的全面解析——为何预填充受计算能力限制、解码受带宽限制,以及GQA、分页和推测机制如何改变相关成本结构。
9177 词阅读使用浏览器中的 JavaScript 和 WebGPU 构建原生 AI 网页应用
利用 WebGPU、工作进程、流式令牌以及可选的客户端 RAG 在本地运行变换器模型,同时规划模型大小、VRAM 使用量、电池续航以及备用方案。
1166 词阅读
常见问题
关于这些文章
是。每篇都是为本站准备的英文原创改写。结构与代码跟随来源;正文重写并做过重合检查。
技术文先发英文,以保证代码与 API 名称准确。站点外壳提供全部九种语言。
草稿经编辑后进入发布队列。站点导入只收录新的或有变更的 slug,不会重复添加。
示例仅供说明。上线前请核对技术栈与许可。若需交付,请发来简报。