Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: NLP
Чаму існуе RAG: параметрычная памяць, ўщэльнае адзысканне дадзеных і стаття 2020 года.
Чаму існуе RAG: меры параметрычнай памяці, як BM25 і эмбеддынгі прынеслі да ўзаемнаўязанага адзысквання інфармацыі, і якія компрэсіі існуюць між RAG-Sequence і RAG-Token у данай студзіі.
7 хв чытанняПярэчаннія аб адзынака аудыту, якіх агент ніколі не ставіў: перакантраванне значэнняў у замяну на словы
Як стварыць апрацоўнік для ацэнкі адпаведнасці заяваў для агента падтрымкі, які выконвае рэальныя замовленні: раздзеліце рэзультаты па власніках, пераканайцеся, што ідэнтыфікаторы супадаюць з рэзультатамі інструмента.
16 хв чытанняЧыстка дадзейнаў для RAG у працэсе вырабоцтва: кодаванне, OCR, адзначэнне дублікатаў і обробка персональных дадзейнаў.
Як ператаваць аналізаваныя корпаратывныя дакументы ў текст, готавы да пошуку: карэкцыя кодавання, адзёрванне шаблонных частак і дубляў, флагі рызыкаванага OCR, обработка мовы і маскаванне персональных данных.
21 хв чытанняЯк тэхніка RAG скарочвае галюцинаціі LLM: процес выкарыстоўвання дадзенняў, эмбеддынгі і ўпрабаванне ў корпоратыўных умовах.
Чаму больші мовныя модулі даюць некальканыя адказы з абыякавасцю і як тэхналогія RAG закрепляе іх у чынных данных: дваэлементная архітектура, эмбедынгі, компрэсіі та меры, якія выклікае тонкая наладка.
9 хв чытанняЗ адміністрацыяў да трансфармацёраў: як NLP научылася працаваць з контекстам
Кароткая гісторыя обробкі нейтранальных мов: системы на адказе правілаў, N-грамы, модэлі Маркова, векторы слоў, RNN-ы, механізмы адзначэння значнасці, трансфармеры і большыя модэлі мовы, створаныя на ўсём гэтым.
7 хв чытанняЧаму трансфармэры выкарыстоўваюць сінус і косынус для кодавання пазіцыі
Паспрабовыя адказы пра сінусоўскую кодаванне пазіцыі: ад прычын, чаму механізм увагі ігнаруе порядак слоў, да гадзінаў разныя па швальбе; прыклад у 12 вымерах з практычным раслічэнням і процес роцыявання.
8 хв чытанняСтварэнне Transformer з нуля на PyTorch: увага, кодэр і адмовадзіцель.
Параграф за параграфам код на PyTorch для основных складовакоў Transformer: позыцыйнае кодаванне, масаваны дот-продукт і багатагалавая увага, шары падаючага сигналу, стакан кодэра і адмовадзіцеля.
8 хв чытанняЧаму індыйскія мовы выклікаюць большую кантыгу токенав у LLM-ах і як фіксуюцься токенайзеры.
Тая ж самая рэчць у англійскай мове складаецца з 5 токенав, а ў тамільскай — з 34. Паглядзіце, як цьому спрыяюць даны для навчання BPE, якія змены відбуваюцца ў балансаванні та розмере словніку, і як працюе розширэння словніку.
8 хв чытанняІнжынерыя запрэгоў: аднойчыны падстава надзеяных АІ-агентаў
Інжынерыя «Harness» як аднакова для надзеяных агентаў AI: што такое LLM, што робіць яго агентам, і што дадае «Harness» у самым цыкле агента.
11 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.