Артыкулы для тых, хто
выводзіць стэк у прод
Арыгінальныя матэрыялы пра React, Node.js, TypeScript і AI — з той жа практыкі, што і наша аператарскае ПЗ. Тэкст артыкулаў па-англійску.
Тэг: interpretability
Суперпоўшчанне ў нейронных сетях: моделі-іграшкі, SAE і з’едынэнне характэрыстыкаў
Як сеті можаюць зберагаць большае колькасць характэрыстыкаў, чым іх выразнасці, якія є цены пераскоку, і чаму спарсавыя аутэнкодэры могу з’едыніць характэрыстыкі, якія даныя не могу разлучыць.
19 хв чытанняЧым займаецца агент для адрознення модэляў: змяны стылю перакрываюць процес тонкай налаштовкі.
Агент для выявлення разніцы ў моделях пераглянуў процес тонкай наладкі фінансовага LoRA: 82% працэсаў выявілі змяну дужыны та структуры, тады як планаваная змяна логіки застала непазначанай.
15 хв чытанняКопіюецца сама, але зазнае нядачы ў колекцыў: контэкстуальная кранічнасць сярод токэнаў, якія праграджаюць тэст копіювання ў ізольаваным режыме.
Анаіз восьміх модэлей з відкрытым вагам для токэнаў, якія правільна копіююцься самыя по сабе, але ў контэксте трапляюцца або змінююцца, з пераконтроўкам геаметрыі імбеддінгу, збережэння завдання і викорыстання інструментаў.
32 хв чытанняКранкія токенавы і тыхае заместаўленне: геаметрычныя поясненні дзеяных галюцынацій
Дзеяныя галюцынаціі выходзяць з параджаных або кранкіх токенав, якія заменяюцца на суседніе элементы прычыму до пачатку аналізу. Прыклады, показнікі на кожны модель і просты тэст.
7 хв чытання
Пра гэтыя артыкулы
Ацэнка за 24 гадзіны
Патрэбны такі стэк у аператарскім слоі? Дашліце брыф — ацэнка за 24 гадзіны.