Статьи для тех, кто
выводит стек в прод
Материалы о React, Node.js, TypeScript и AI. Переведённый текст показывается, если он есть. Если нет — вы видите английский текст и пометку об этом.
Тег: self-hosted
API управляемых агентов OpenAI: хостинг в песочницах против самостоятельной обработки
Как функционирует механизм управляемых агентов OpenAI в публичной бета-версии: виртуальные рабочие столы на Linux, серверы выполнения, настроенные самостоятельно, сжатие контекста, поиск инструментов и субагенты.
8 мин чтенияДесять самостоятельно размещаемых платформ с открытым кодом, отсортированных по реальным потребностям бизнеса.
Сравнение десяти платформ искусственного интеллекта с открытым кодом для бизнеса: enterprise no-code, Activepieces, Kestra, Windmill, Dify, Langflow, Coze Studio, MaxKB, AnythingLLM и RAGFlow.
15 мин чтенияГибридный поиск для домашней лаборатории: Qdrant RRF, BM25 и свой чанкинг
Самостоятельно размещённый ассистент для хоумлаба режет на чанки заметки, таблицы, диаграммы Draw.io и логи Loki, а затем ищет по плотным и разреженным векторам с RRF и переранжированием кросс-энкодером.
6 мин чтенияPhlox-GW: шлюз LLM с открытым исходным кодом, включающий функции управления бюджетом, ограничений и высокой доступности
Phlox-GW — это гейтвей LLM с открытым исходным кодом, который вы размещаете самостоятельно: бюджеты и возвраты средств, ограничения по скорости, меры защиты персональных данных, журналы аудита, точки входа OpenAI и Anthropic, высокая доступность.
11 мин чтенияСетевое взаимодействие самохостингованных LLM: один шлюз вместо отдельного хоста для каждой модели
Добавление моделей с открытым весом не должно означать необходимость новых имен хостов и настройки пиринга для каждого приложения. Шлюз в стиле LiteLLM сохраняет один конечный пункт, в то время как бэкенды меняются за его спиной.
5 мин чтения
О этих статьях
Оценка за 24 часа
Нужен такой же стек в операторском слое? Пришлите бриф — оценка за 24 часа.