Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: nlp
Навошта існуе RAG: параметрычная памяць, шчыльны пошук і артыкул 2020 года
Навошта існуе RAG: межы параметрычнай памяці, як BM25 і эмбедынгі прывялі да шчыльнага пошуку і чым адрозніваюцца RAG-Sequence і RAG-Token у арыгінальным артыкуле.
7 хв чытанняПярэчаннія аб адзынака аўдыту, якіх агент ніколі не ставіў: перакантраванне значэнняў у замяну на словы
Як стварыць апрацоўнік для ацэнкі адпаведнасці заяваў для агента падтрымкі, які выконвае рэальныя замовленні: раздзеліце рэзультаты па власніках, пераканайцеся, што ідэнтыфікаторы супадаюць з рэзультатамі інструмента.
16 хв чытанняАчыстка даных для прадакшн-RAG: кадоўка, OCR, дэдуплікацыя і PII
Як ператварыць распарсеныя карпаратыўныя дакументы ў тэкст, гатовы да пошуку: выпраўленне кадоўкі, выдаленне шаблоннага тэксту і дублікатаў, пазнакі рызыкоўнага OCR, апрацоўка моў і маскіраванне PII.
21 хв чытанняЯк RAG скарачае галюцынацыі LLM: пошук, эмбедынгі і выкарыстанне ў кампаніях
Чаму LLM упэўнена адказваюць няправільна і як RAG абапірае іх на актуальныя даныя: двухчасткавая архітэктура, эмбедынгі, кампрамісы з файнцюнінгам і межы.
9 хв чытанняЗ адміністрацыяў да трансфармацёраў: як NLP научылася працаваць з кантэкстам
Кароткая гісторыя апрацоўкі нейтранальных мов: сістэмы на адказе правілаў, N-грамы, модэлі Маркова, векторы слоў, RNN-ы, механізмы адзначэння значнасці, трансфармеры і большыя модэлі мовы, створаныя на ўсём гэтым.
7 хв чытанняЧаму трансфармэры выкарыстоўваюць сінус і косынус для кодавання пазіцыі
Паспрабовыя адказы пра сінусоўскую кодаванне пазіцыі: ад прычын, чаму механізм увагі ігнаруе парадак слоў, да гадзінаў разныя па швальбе; прыклад у 12 вымерах з практычным раслічэнням і працэс роцыявання.
8 хв чытанняСтварэнне Transformer з нуля на PyTorch: увага, кодэр і адмовадзіцель.
Параграф за параграфам код на PyTorch для основных складовакоў Transformer: позыцыйнае кодаванне, масаваны дот-продукт і багатагалавая увага, шары падаючага сігналу, стакан кодэра і адмовадзіцеля.
8 хв чытанняЧаму індыйскія мовы выклікаюць большую кантыгу токенав у LLM-ах і як фіксуюцься токенайзеры.
Тая ж самая рэчць у англійскай мове складаецца з 5 токенав, а ў тамільскай — з 34. Паглядзіце, як гэтым спрыяюць даны для навчання BPE, якія змены відбуваюцца ў балансаванні і розмерэ словніку, і як працюе розшырэння словніку.
8 хв чытанняІнжынерыя запрэгоў: аднойчыны падстава надзеяных АІ-агентаў
Інжынерыя «Harness» як аднакова для надзеяных агентаў AI: што такое LLM, што робіць яго агентам, і што дадае «Harness» у самым цыкле агента.
11 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.