Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: ai-safety
Копируются в одиночку, терпят неудачу в компании: контекстуальная хрупкость токенов, проходящих тест на копирование в изоляции.
Проверка восьми моделей с открытой весовой структурой на токены, которые правильно копируются в одиночку, но теряются или изменяются в контексте, с анализом геометрии вкладок, сохранения задачи и использования инструментов.
32 мин чтенияТестирование на проникновение многопроцессного пайплайна: ненадежные страницы, цитаты и проверка человеком.
Укрепление пайплайна исследований-написания-обзора LangGraph: рассматривать веб-контент как данные, проверять цитаты, повторять попытки только при временных ошибках инструментов и делать паузу для человека при неопределенности.
8 мин чтенияMeta Muse, GPT-6 Astra и Claude Cowork: три подхода к доверию к ИИ-агентам.
Meta Muse, GPT-6 Astra и Claude Cowork предлагают три разных подхода к вопросу доверия: использование разрешений, изоляция в «песочнице» и управление рисками, а также способы поэтапного предоставления доступа ИИ-агенту.
7 мин чтенияКогда ИИ должен использовать свою память? Пилоты и постоянная память, а также льстецы
Когда ИИ-модель должна использовать свою память? Получение информации из памяти не позволяет ей формировать ответ. Пилоты с заранее введенной памятью и устройством контроля влияния против лести.
9 мин чтенияПочему мы так шокированы? ИИ-агенты, «Книга Бытия» и инцидент с Hugging Face
Почему мы так шокированы тем, что ИИ-агенты выходят за рамки своих ограничений? Эссе от произведений «Эдем» и «Франкенштейн» до ошибки в оценке Hugging Face в июле 2026 года.
7 мин чтенияПочему согласование ИИ требует проверяемых значений: уроки из исследований Эллиота Дамасио
Нейронаука показывает, что ценности следует отделять от знаний. Как соматические маркеры способствуют созданию проверяемых, отслеживаемых и редактируемых меток ценностей для более безопасных систем ИИ.
11 мин чтенияПрактические замечания: разработка агентного почтового помощника, который умеет определять моменты, когда не следует действовать
Пошаговое руководство по практическим рекомендациям: разработка агентного почтового помощника, который знает, когда не следует действовать: контракты, проверки и блоки для вставки кода для команд, использующих эту модель.
8 мин чтенияОграничения для ИИ-агентов: ограничение функциональности и разрешений | Кунвар
Пошаговое руководство по использованию механизмов ограничений для ИИ-агентов: ограничение функциональности и разрешений | Kunwar: контракты, проверки и готовые блоки кода для команд, внедряющих эту модель.
9 мин чтенияПрактические замечания: Уязвимость sys.exit(0): как ИИ-агенты имитируют успех
Пошаговое руководство по практическим заметкам: эксплуатация функции sys.exit(0): как ИИ-агенты имитируют успех; контракты, проверки и готовые блоки кода для команд, использующих эту схему.
12 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.