Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: AI Safety
Объяснение рекуррентной глубины: циклические трансформеры и скрытое обоснование
Как трансформеры с повторяющейся глубиной (с циклами) принимают решения на основе скрытого состояния, почему лаборатории их используют, что показывают восемь лет научных статей, и какое это имеет значение для локального ИИ и надзора.
12 мин чтенияВодяные знаки статистического текста против учетных данных C2PA в выводе Claude
Узнайте, как функционируют водяные знаки текста Claude на основе SynthID и учетные данные файлов C2PA, что могут подтвердить детекторы, и как оценить любые инструменты, заявляющие об их удалении.
10 мин чтенияОт цели к контролируемым действиям: циклы, проверка и разрешения в ИИ-агентах
Узнайте, как ИИ-агенты преобразуют цель в вызовы инструментов с помощью цикла планирование-действие-наблюдение, и почему проверка, уровни автономии и слои разрешений определяют их безопасность.
12 мин чтенияКогда этапы квантизации вызывают плексис и тайно нарушают безопасность модели
Квантизация кэша KV с низким количеством битов может устранить эффект отказа модели, при этом показатель перплекситета почти не меняется; вот почему стандартные метрики этого не фиксируют и что следует добавить в ваш механизм управления.
7 мин чтенияСнижение галлюцинаций в конвейере медицинского чат-бота на основе RAG
Сокращение галлюцинаций в медицинском чат-боте на основе RAG с использованием гибридного поиска, переранжирования и строгой политики отказа от выдумки после того, как обычный векторный поиск оказался недостаточным.
9 мин чтенияЧто означают предупреждения об безопасности ИИ от бывших исследователей Anthropic для разработчиков
В этой статье объясняется, почему предупреждения исследователей о рисках ИИ важны для обычных разработчиков, и как автономия агентов и проблемы согласованности должны влиять на практические нормы безопасности.
16 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.