Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: Reliability
Почему показатели точности агентов вводят в заблуждение: pass^k, методы нарушения и внедрение сбоев
Почему pass@1 скрывает ненадежных ИИ-агентов, и как pass^k, методы нарушения входных данных и внедрение сбоев выявляют пробелы в согласованности, стабильности и устойчивости к сбоям.
9 мин чтенияАгент без защиты: что ломается, когда модель не защищена ничем.
Создайте тот же незащищенный агент-турагент в Claude Agent SDK и LangChain Deep Agents, затем наблюдайте за тремя сбоями, чтобы понять, какие механизмы контроля отсутствуют.
9 мин чтенияПочему производственным ИИ-агентам нужно больше, чем просто хороший запрос.
Агентам искусственного интеллекта для производства требуется нечто большее, чем просто хороший запрос: контекст, инструменты, память, механизмы обработки сбоев, возможность наблюдения, тестирование и автономность, соответствующие реальному уровню риска.
7 мин чтенияТестирование механизма проверки, который позволяет повторно применить неправильное окончательное действие агента.
Эксперимент с 30 случаями: судья в виде большой языковой модели вместе с одной попыткой повтора сократил количество неверных действий поддержки с 6 до 2, и почему обнаружение нарушения не всегда означает, что агент его исправит.
7 мин чтенияПочему именно система управления агентами, а не модель, определяет, что становится реальностью.
Обновление CRM с таймером отсрочки показывает, почему агентам необходимы контракты на инструменты, состояния с неизвестным результатом, идемпотентные попытки и подтверждение завершения, а также механизмы контроля, которые стоит сохранить.
6 мин чтенияПрежде чем ИИ-агент получит право на промышленное использование: контракты, графы претензий, тестирование в тени и канарейки
Процесс выпуска ИИ-агентов, основанный на доказательствах: ограниченные по объему контракты, сценарии с состоянием, внедрение сбоев, пределы неопределенности, поэтапные тесты и автоматическое повышение уровня агентов.
23 мин чтенияИнструментальный комплекс, цикл, граф: три уровня, лежащие в основе большинства сбоев производственных агентов.
Сбои в агентах производства редко связаны с самой моделью. Необходимо разделить кабельную схему инструмента, условие остановки цикла и топологию графа LangGraph — у каждого из этих элементов должен быть свой ответственный.
24 мин чтенияПочему агенты, впечатляющие на демо-версиях, терпят неудачу в производственных условиях, и что следует создавать вместо них.
Почему ИИ-агенты, впечатляющие на демо-версиях, терпят неудачу в реальных условиях: где возникают сбои, компромиссы между одиночными и многокомпонентными агентами, механизмы повторных попыток и резервных решений, а также реальные затраты на работу.
9 мин чтенияОценка агентов с помощью поискового бота для путешествий: результат против траектории, блоки и параметр pass^k.
Пример оформления бронирования поездки для оценки агентов: оси результата и траектории, детерминистические блоки перед взвешенными оценками, 2x2 матрица и параметры pass@k против pass^k.
8 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.