Услуги / Из демо в продакшн

AI в рабочей эксплуатации

Демо работает.
Теперь оно должно работать каждый день

У многих компаний уже есть чат-бот или прототип на ChatGPT, который впечатляет на встрече и ошибается на реальных случаях. Мы добавляем то, что нужно для работы: тесты на ваших данных, мониторинг, обработку ошибок, проверку человеком и логи.

Енот-инженер ставит картонного робота-прототипа на прочную стартовую платформу с панелями мониторинга
Что добавляем

Шесть слоёв между демо и системой, на которую можно положиться

Оставляем то, что в прототипе уже работает, и достраиваем недостающее вокруг него.

Тестовый набор

Реальные случаи из ваших данных с правильными ответами, включая сложные. Точность считается по каждой задаче, вместе с ложными срабатываниями и отказами.

Проверка при изменениях

Набор прогоняется при каждом изменении промпта, модели или кода. Изменение, которое ухудшает результат, до пользователей не доходит.

Обработка ошибок

Таймауты, лимиты, пустые ответы и сломанный формат вывода перехватываются, повторяются или уходят человеку, а не теряются молча.

Проверка человеком

Сомнительные ответы попадают в очередь вместе с источником. Исправления записываются и пополняют тестовый набор.

Мониторинг

Объём, задержка, стоимость, доля ручной проверки и доля исправлений на дашборде, с оповещением, когда что-то начинает плыть.

Логи и доступ

Кто что спросил, какая версия модели ответила и кто подтвердил, с доступом по ролям и сроками хранения, которые настраиваете вы.

Цена

От 1500 PLN (около 350 €)

Сюда входит разбор прототипа, тестовый набор и первые слои для работы в продакшене. Итоговая цена зависит от числа задач и интеграций и фиксируется после короткого знакомства с прототипом.

Описать прототип
Перед началом

Что нам нужно увидеть и что вы получите

Нам нужно

Доступ к прототипу или его коду, 20–50 реальных примеров, с которыми он должен справляться, и человек, который может сказать, верен ли ответ.

Вы получите

Отчёт о том, где прототип ошибается сейчас, тестовый набор, слои для продакшена в вашем репозитории и документацию для команды.

Вопросы

О переводе AI в продакшн

Да. Сначала смотрим код и промпты и говорим, что можно оставить. Переписывать всё приходится редко.
Нет. Работаем с облачными API моделей и с локальными моделями на вашем оборудовании, а тестовый набор помогает сравнить их на ваших задачах.
Первая рабочая версия обычно занимает от двух до четырёх недель, в зависимости от интеграций и того, сколько ручной проверки нужно результатам.
Тогда вы узнаете это раньше пользователей. Мы предложим изменения: более узкие задачи, проверки по правилам в коде или другую модель, и измерим их на том же наборе.

Есть прототип, который так и не дошёл до пользователей?

Напишите, что он делает, на чём работает и где ошибается. Ответим в течение рабочего дня.