Артыкулы для тых, хто
выводзіць стэк у прод
Матэрыялы пра React, Node.js, TypeScript і AI. Перакладзены тэкст паказваецца, калі ён ёсць. Калі не — вы бачыце англійскі тэкст і пазнаку пра гэта.
Тэг: hallucination
Пярэчаннія аб адзынака аўдыту, якіх агент ніколі не ставіў: перакантраванне значэнняў у замяну на словы
Як стварыць апрацоўнік для ацэнкі адпаведнасці заяваў для агента падтрымкі, які выконвае рэальныя замовленні: раздзеліце рэзультаты па власніках, пераканайцеся, што ідэнтыфікаторы супадаюць з рэзультатамі інструмента.
16 хв чытанняЯк RAG скарачае галюцынацыі LLM: пошук, эмбедынгі і выкарыстанне ў кампаніях
Чаму LLM упэўнена адказваюць няправільна і як RAG абапірае іх на актуальныя даныя: двухчасткавая архітэктура, эмбедынгі, кампрамісы з файнцюнінгам і межы.
9 хв чытанняВідстэжэнне таго, у якім кроцы выйшла галюцынацыя, за дапамогою методу атрыбуціі у стыле хадысаў.
Дакле, чаму помылкі LLM пачынаюцца ў першым кроку, і як ланцуг, запоўнены ўсносамі, рэестр пераказчыкаў і матрыца адлікав можа забезпечыць відповідальнасць у багатоагентных пайплайнах за кожны крок.
5 хв чытанняЧаму розумныя дапаможнікі AI все ўсё даюць некарэктныя адпаведзі: пагляд праз ланцоўку
Следавайце за ланцоўкай дапаможніка AI, якая начыняецца з дадзеных для навчання і вікнаў кантэксту, праходзіць праз працэсы RAG для пошуку і стварэння адпаведзяў, каб з’ясаваць, звядзе каму выходзяць некарэктныя адпаведзі, і як іх зменшыць.
7 хв чытанняКалі мадэль ніколі не завершае працу: мовчазныя невыпадкі, якія залішаюцца непазначанымі у рэйтынгах галюцынацый.
Два пункты контролю, две формы квантавання і два часу выканання булі прыменены на выдуманных назвах: адзін мадэль застаецца мовчазным прыблізна на калькі хвілін, а рэтэльны оценяльнік выявляе тыя балы, якія працяглі залішыцца незафіксаванымі.
11 хв чытанняЧат-бот для портфеля, створаны для таго, каб гаварыць «Я не ведаю», а не для здогадваўся.
Як чат-бот для портфеля застаецца чыстасам: замкнуты рэгулятор чыстасці, пяць рукапісных прымечакаў у запіце заместо RAG, і фіксаваная лінія адмовы, якая таксама служыць дэтэктаром прасоў.
8 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.