Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: MLOps
Почему показатели точности агентов вводят в заблуждение: pass^k, методы нарушения и внедрение сбоев
Почему pass@1 скрывает ненадежных ИИ-агентов, и как pass^k, методы нарушения входных данных и внедрение сбоев выявляют пробелы в согласованности, стабильности и устойчивости к сбоям.
9 мин чтенияОбучите пользовательскую модель в Azure ML и вызовите её из агента Foundry.
Обучите, зарегистрируйте и разверните модель оттока на управляемом конечном пункте Azure ML, затем сделайте её доступной агенту Foundry в качестве FunctionTool с информацией об авторизации и рекомендациями для производственного использования.
7 мин чтенияПрежде чем ИИ-агент получит право на промышленное использование: контракты, графы претензий, тестирование в тени и канарейки
Процесс выпуска ИИ-агентов, основанный на доказательствах: ограниченные по объему контракты, сценарии с состоянием, внедрение сбоев, пределы неопределенности, поэтапные тесты и автоматическое повышение уровня агентов.
23 мин чтенияОт моделей к агентам: переработка трех уровней защиты
Как управление MLOps соотносится с системами агентов: что должны добавить три компонента, где находятся пробелы, и какие сигналы посылают регуляторы ЕС, FDA и финансовой сферы.
8 мин чтенияРазвертывание ИИ-агентов в производственной среде: компромиссы между использованием облака, собственного хостинга и гибридных решений
Сравните способы развертывания агентов в облаке, на собственном сервере и в гибридной схеме с точки зрения уровня уязвимости данных, затрат, зависимости от поставщика, маршрутизации и возможностей мониторинга, с четырьмя вопросами для выбора и ошибками, которых следует избегать.
10 мин чтенияПайплайн LangGraph, сохраняющий точность данных кодовой базы для ИИ-агентов
Создайте пайплайн LangGraph, который формирует файлы знаний для каждого сервиса, проверяет их с помощью Ragas и DeepEval, отслеживает выполнение в Langfuse, а также запускается локально на Ollama.
11 мин чтенияShadow, canary, A/B и бандиты: как безопасно выкатывать ML-модели
На примере антифрод-системы: когда использовать теневое развёртывание, canary-релизы, A/B-тесты и многорукие бандиты, что мониторить и как откатываться.
7 мин чтенияАрхитектура обслуживания моделей: почему API — это только парадная дверь
Разбираем платформу за эндпоинтом инференса: маршрутизацию, масштабирование, версионирование, наблюдаемость, безопасность и вызов моделей из Spring AI или LangChain4j.
9 мин чтенияПрактические заметки: проектирование кэша для ИИ-агентов: его запуск в производственной среде
Пошаговое руководство по практическим рекомендациям: проектирование кэша для ИИ-агентов, его запуск в производстве, а также контракты, проверки и готовые блоки кода для команд, использующих эту модель.
7 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.