Статті для тих, хто
виводить стек у прод
Матеріали про React, Node.js, TypeScript і AI. Перекладений текст показується, якщо він є. Якщо ні — ви бачите англійський текст і примітку про це.
Тег: NLP
Чому існує RAG: параметрична пам’ять, щільний пошук та стаття 2020 року.
Чому існує RAG: обмеження параметричної пам’яті, як BM25 та ембеддинги призвели до щільного пошуку, та які компроміси існують між RAG-Sequence та RAG-Token у цій статті.
7 хв читанняПідтвердження замовлень аудиту, які агент ніколи не створює: перевірка значень замість формулювань
Як створити оцінювач послідовності заявок для агента підтримки, який оформлює реальні замовлення: розділити результати за власником, перевірити ідентифікатори за даними інструменту.
16 хв читанняОчищення даних для RAG у виробництві: кодування, OCR, видалення дублікатів та персональних даних
Як перетворити оброблені корпоративні документи на текст, готовий до пошуку: виправлення кодування, видалення шаблонних та дублікатних елементів, позначки ризикованого OCR, обробка мов та маскування персональних даних.
21 хв читанняЯк RAG усуває галюцинації LLM: процес пошуку інформації, ембеддинги та їх використання в корпоративних проектах.
Чому ШІ відповідають неправильно, але з впевненістю, та як RAG базується на актуальних даних: двочастинна архітектура, ембеддинги, компроміси та обмеження тонкого налаштування.
9 хв читанняВід правил до трансформерів: як NLP навчилася розуміти контекст
Коротка історія обробки природної мови: системи на правилах, N-грами, марковські моделі, вектори слів, RNN, увага, трансформери й великі мовні моделі на їхній основі.
7 хв читанняНавіщо трансформерам синус і косинус для позиційного кодування
Покрокове пояснення синусоїдального позиційного кодування: чому увага не бачить порядку слів, годинники з різною швидкістю, розібраний приклад на 12 вимірах і обертання.
8 хв читанняТрансформер з нуля на PyTorch: увага, енкодер і декодер
Покроковий код на PyTorch для ключових частин трансформера: позиційне кодування, scaled dot-product і multi-head attention, feed-forward шари, стек енкодера та основи декодера.
8 хв читанняЧому індійські мови коштують більше токенів у LLM і як лагодять токенізатори
Те саме речення займає 5 токенів англійською і 34 тамільською. Як до цього призводять навчальні дані BPE, що змінюють перебалансування й розмір словника і як працює розширення словника.
8 хв читанняІнженерія стремінь: основа надійних AI-агентів
Використовуйте інженерію керування як основу надійних AI-агентів: що таке LLM, що робить його агентом, та що додає інженерія керування до самого циклу агента.
11 хв читання
Про ці статті
Оцінка за 24 години
Потрібен такий стек в операторському шарі? Надішліть бриф — оцінка за 24 години.