Jev от TypeSafe AI: модель без чат-функции для принятия решений на основе типов

Jev — это первая модель от TypeSafe AI, стартапа из Сан-Франциско, который вышел из режима секретности 15 сентября 2026 года при поддержке финансирования в размере 40 миллионов долларов в рамках первого раунда, организованного DCVC.

В отличие от большинства ИИ-систем, попадающих в новости, Jev не является большой языковой моделью. Он не может формировать предложения, генерировать код или составлять объяснения. Вместо этого пользователь предоставляет ему краткую информацию о текущем состоянии, такую как заявка на поддержку клиентов или описание продукта, вместе с набором структурированных, типизированных вопросов. В ответ модель выдает типизированные ответы, каждый из которых сопровождается распределением вероятностей и оценкой уверенности. Не требуется интерпретация прозы и нет необходимости корректировки JSON-структуры в последующем.

TypeSafe называет этот подход моделью «System One», обучаемой с помощью метода, который компания называет усиленным обучением для калиброванных решений, или RLCD. По словам компании, время отклика составляет от 70 до 500 миллисекунд, а стоимость — 0,042 доллара за миллион входных токенов; выходные токены совершенно бесплатны.

Эта цифра не является ошибкой. Выходные данные бесплатны просто потому, что их практически нет.

Кто основал TypeSafe AI

Основатель и генеральный директор компании Диого Алмейда ранее работал исследователем в OpenAI, участвуя в разработке методов усиленного обучения на основе обратной связи от людей, проектов InstructGPT, ChatGPT и GPT-4. Его считают одним из соавторов техники RLHF, которая превратила сырые языковые модели в пригодных для использования помощников для общения.

В состав руководящей команды входят Эрик Гафни в качестве технического директора и Саша Шенг в качестве операционного директора. Компания TypeSafe была основана в 2024 году и работала в тайне почти два года перед тем, как стать публичной. По оценкам Forbes, стоимость компании после этого раунда финансирования составляет примерно 200 миллионов долларов.

Примечательно то, что Альмейда участвовал в разработке подхода, сделавшего модели способными удовлетворять человеческие предпочтения, однако теперь он утверждает, что удовлетворение потребностей людей на самом деле никогда не было такой же сложной задачей, как обеспечение надежности программного обеспечения. Когда кто-то выступает против того, что сделало его известным, это обычно означает, что он потратил значительное время на переосмысление проблемы.

Название компании связано с Уильямом Стэнли Джевонсом, экономистом XIX века, известным благодаря парадоксу Джевонса — заключению о том, что по мере повышения эффективности технологии общее её потребление склонно расти, а не снижаться. Основная идея здесь проста: сделайте интеллект достаточно дешевым, и его использование резко возрастёт.

Аспект

Любой, кто разрабатывал функции искусственного интеллекта для электронной коммерции, вероятно, сталкивался с одним и тем же постоянным проблемным моментом.

Рассмотрим типы решений, от которых требуют эти системы: касается ли этот поисковый запрос бренда или категории? Подходит ли эта фотография товара для главной страницы? Жалуется ли в этом отзыве на задержки доставки или качество товара? Это незначительные решения, которые компетентный менеджер категории может принять за несколько секунд.

Однако стандартное решение заключается в том, чтобы направлять эти запросы через языковую модель. Она генерирует абзац текста, который затем принудительно помещается в структуру JSON. Необходимо создать для неё парсер, добавить логику проверки корректности данных, реализовать механизм повторных попыток, а также предусмотреть запасной вариант действий на случай, если повторные попытки тоже провалятся. В конечном итоге, в производственной среде, часто посреди ночи, модель возвращает значение категории, которого нет нигде в вашей таксономии, тем самым тихо повреждая связанную с ней таблицу данных.

Узким местом никогда не была сама интеллектуальная способность модели. Проблема заключалась в интерфейсе, окружающем её.

Именно этот разрыв и предназначен к устранению Jev.

Основное утверждение заключается не в том, что эта модель мыслит лучше других, а в том, что формат её вывода наконец соответствует тому, что действительно требуют приложения.

Как на самом деле работает Jev

Вся интерфейсная среда API состоит всего из трех типов вопросов.

Вопрос с выбором позволяет модели выбрать один вариант из предоставленного вами списка; вы получаете выбранный элемент вместе с вероятностью для каждого варианта и общим значением уверенности. В один список можно включить до 255 вариантов ответа.

Вопрос с оценкой предполагает, что модель оценивает введённый текст по шкале уровней, определённой вами самими — например, по степени серьёзности ошибки, уровню раздражения клиента или степени готовности описания продукта. Результат может находиться между двумя соседними уровнями, а не точно соответствовать одному из них; кроме того, в ответе указывается полная распределительная функция этой оценки.

Вопрос с «да/нет» представляет собой бинарное утверждение. Ответом является единственное число от 0 до 1, обозначающее вероятность того, что ответ будет «да».

Эти три типа могут свободно комбинироваться в рамках одного вызова. Каждый вопрос оценивается на основе одного и того же состояния входных данных, каждый рассматривается независимо, и все они выполняются одновременно. Благодаря такой параллельной обработке добавление дополнительных вопросов к запросу практически не влияет на время ответа. Каждый вызов работает в рамках общего лимита примерно в 32 000 токенов, который включает как состояние данных, так и сами вопросы.

Эта деталь, касающаяся бюджета токенов, меняет подход к проектированию системы на основе Jev. Поскольку дополнительные вопросы стоят практически ничего, рекомендуемая стратегия — задавать все вопросы, которые только можно себе представить, даже те, ответы на которые актуальны только для определённых входных данных, а затем просто игнорировать то, что не используется приложением. TypeSafe называет этот подход спекулятивным расширением. Для тех, кто привык к ситуации, когда каждый дополнительный вызов модели влечёт за собой дополнительные затраты и задержки, такая инверсия стимулов требует некоторого времени, чтобы до конца усвоиться.

В чём отличие Jev от LLM

Четыре уникальных признака отличают его от языковой модели с форматированием вывода.

Во-первых, сама цель обучения отличается. RLHF оптимизирует модель для получения ответов, которые люди оценивают положительно. RLVR нацелен на ответы, которые можно проверить верификатором — это техника, лежащая в основе моделей рассуждений. Jev использует подход под названием RLCD, который обучает модель выдавать решения вместе с честными оценками вероятности. Если Jev указывает 0,8 в качестве оценки уверенности, это подразумевает, что среди большого набора похожих ответов примерно 80 процентов окажутся правильными. Калибровка здесь не является побочным эффектом — это суть всей системы.

Во-вторых, отбор примеров происходит параллельно, а не последовательно. Типичная модель языка генерирует текст по токенам, причем каждый новый токен зависит от всего, что было сгенерировано ранее. Jev же генерирует полный ответ за один проход. В этом и заключается причина его скорости, а также то, почему генерация вывода не стоит дополнительных затрат — нет длительной последовательности токенов, которые нужно было бы оплачивать по отдельности.

В-третьих, формат вывода не просто рекомендуется, он гарантируется. Jev физически ограничен в возможности возвращать значения из заранее определённого набора, указанного вами заранее. Это не является «обычно соответствующим» поведением — возвращение чего-либо вне этого набора по своей конструкции невозможно. Галлюцинированная категория не просто редка, она структурно исключена из пространства возможных результатов. TypeSafe заявляет о нулевом проценте ошибок при некорректном структурированном выводе, и в отличие от большинства показателей из тестов это является прямым следствием архитектуры, а не чем-то, измеренным эмпирически.

Во-четвертых, сама неопределенность рассматривается как реальный результат, а не как что-то, что учитывается в последнюю очередь. Любой ответ, связанный с выбором или оценкой, сопровождается значением уверенности, рассчитываемым на основе степени остроты пика в основном распределении вероятностей. Распределение, имеющее плоскую форму, указывает на истинную неопределенность модели. Это позволяет логике приложения напрямую реагировать на уровень уверенности — автоматически принимать действия, когда уверенность превышает определенный порог, переходить к участию человека, когда она падает ниже другого порога, а также устанавливать более строгие требования для действий с высоким риском по сравнению с действиями с низким риском.

Эта последняя возможность, пожалуй, является самой ценной. Ошибки в размере пяти процентов редко бывают настоящей проблемой в таких системах. Настоящей проблемой всегда была невозможность определить, какие именно пять процентов приводят к ошибкам.

Что на самом деле говорят показатели эталона

Здесь допустимо проявить некоторую скептицизм, поскольку маркетинговые материалы сильно искажают картину, а большинство онлайн-публикаций просто повторяют основные цифры, не углубляясь в детали.

TypeSafe провел собственные тесты, охватив четыре сценария использования: реагирование на инциденты в области безопасности, отслеживаемость действий агентов, обработка счетов-фактур и поддержка клиентов; всего было выполнено примерно 711 тестовых случаев. Вместо использования проверенных людьми эталонных данных ответы были получены путем средневзвешивания оценок моделей GPT 6 Astra и Claude Fable 5.1.

По сравнению с этим набором эталонов Jev давал правильный ответ в 67,8 процента случаев. GPT 5.6 Terra показал практически такой же результат — 67,9 процента; на первый взгляд это отличные показатели для TypeSafe.

Но если просмотреть таблицу результатов дальше, картина меняется. GPT 5.6 Sol показал точность 74,1 процента, а Claude Opus 5 — 73,1 процента. Если рассмотреть конкретно задачу обработки счетов-фактур, Jev набрал 61,8 процента против 79,1 процента у Sol — разница в семнадцать процентных пунктов, что довольно значительно, и это именно тот тип структурированной обработки данных, в котором многие потенциальные пользователи ожидают видеть высокую эффективность этой модели.

В чем Jev явно превосходит конкурентов, так это в стоимости и скорости. Стоимость его работы составляет примерно 0,0004 доллара за задачу при задержке в 0,4 секунды, тогда как у Terra она составляет около трех центов и десять секунд — разница примерно в два порядка как по стоимости, так и по скорости.

Если говорить честно, Jev демонстрирует точность примерно на уровне моделей среднего класса, при этом стоит в сорок–четыреста раз дешевле и реагирует за долю секунды. Стоит ли идти на такой компромисс, полностью зависит от стоимости ошибочного ответа. При классификации миллиона поисковых запросов такой баланс кажется отличным. Однако при автоматическом одобрении возврата средств необходимо, чтобы механизм контроля уверенности выполнял реальную, значимую фильтрацию.

Стоит учесть два момента. Во-первых, это цифры, предоставленные самим поставщиком, и пока не было независимых крупномасштабных тестов. Во-вторых, поскольку эталонные ответы были сгенерированы моделями OpenAI и Anthropic, вся сравнительная оценка неявно склоняется в пользу согласия именно с этими двумя семействами моделей.

Где я бы его использовал

Рассмотрим команду, которая разрабатывает функции по анализу потребностей клиентов и маркетингу для электронной платформы продаж продуктов питания и общего ассортимента, действующей на нескольких рынках Персидского залива. Примерно такая команда может определять приоритеты в работе над проектом Jev.

В первую очередь, вероятно, будет решена проблема понимания запросов в масштабе всего каталога. Платформа, охватывающая несколько рынков и языков, сталкивается с огромным количеством поисковых запросов. Задачи, такие как классификация намерений пользователей, разделение названий брендов от терминов категорий и атрибутов, а также выявление запросов, которые, скорее всего, приведут к пустым результатам, в настоящее время решаются с помощью набора правил, устаревающих со временем, а также периодических вызовов больших языковых моделей, которые слишком дороги для использования при обработке такого большого объема данных. При стоимости примерно 42 доллара за миллиард токенов входных данных, проведение подобной классификации для каждого запроса ежедневно становится финансово целесообразным.

Оценка качества контента — ещё один перспективный вариант. Каждая запись о продукте может быть оценена по четкости названия, качеству изображений и полноте характеристик; те записи, у которых оценка самая низкая, направляются обратно в команду каталога для корректировки. По сути, это один и тот же вопрос типа оценки, применяемый миллионы раз — задача, которую традиционно считали слишком дорогой для обработки с помощью больших языковых моделей и слишком сложной для формулировки в виде строгих правил.

Оценка релевантности для настройки поиска — это третий случай применения. Вместо покупки данных релевантности с метками, добавленными людьми, или оплаты дорогостоящей модели для их генерации, можно массово оценивать пары запросов и продуктов с целью создания офлайн-набора данных релевантности. Собственная документация TypeSafe по переранкингу указывает на повышение точности первого результата с 5 процентов до 18 процентов в тесте по поиску юридических документов — что является обнадёживающим признаком, несмотря на небольшое сходство этой области с поиском в электронной коммерции.

Наконец, механизмы контроля существующих функций, основанных на больших языковых моделях, идеально подходят для этой цели. Для проверки входных и выходных данных любой функции для общения на предмет попыток обхода ограничений и нарушения правил необходима быстрая и недорогая проверка, которая сама по себе не должна становиться узким местом, и именно такой функционал предназначен Jev.

Где я бы им не пользовался

Любая ситуация, требующая объяснения, исключается из рассмотрения. Jev никогда не приводит обоснований, точка. Когда продавец спрашивает, почему его объявление опустилось в рейтинге, ответ «модель поставила оценку 2,1 из 4» никого не устраивает.

Задачи, требующие последовательного обоснования на разных этапах, также плохо подходят. TypeSafe прямо указывает на это в своей документации: разбейте проблему на отдельные вопросы или используйте другой инструмент, поскольку элементы, объединённые в один запрос, не могут узнавать ответы друг друга.

Там, где точность важнее скорости обработки, будьте осторожны. Эта слабая сторона в обработке счётов — это не мелкая проблема, а настоящий сигнал тревоги.

И его не следует развертывать там, где невозможно сначала проверить его на собственных данных. Средний балл в 67,8 процента по четырем тестовым задачам кого-то другого практически ничего не говорит о том, как модель справится с арабскими названиями продуктов или о способах классификации продуктов питания на рынках Персидского залива.

Более общая идея

Если отбросить показатели дня запуска, остается основная идея, которая сохраняет свою актуальность независимо от того, станет ли Jev конкретно победителем в этой области.

Текст никогда не был подходящим интерфейсом между моделью и программным обеспечением, предназначенным для обработки её результатов. Мы начали им пользоваться просто потому, что это был доступный формат, а затем годами создавали парсеры, валидаторы, логику повторных попыток и проверщики схем лишь для того, чтобы компенсировать этот недостаток. Каждый из этих слоев существует исключительно для того, чтобы преобразовать что-то, созданное для человеческого чтения, в формат, который машина может безопасно обрабатывать.

Если большая часть использования ИИ в конечном итоге будет происходить внутри программных пайплайнов, а не в чат-интерфейсах — и это кажется наиболее вероятным направлением развития — то система, выполняющая эту работу, вряд ли должна быть оптимизирована для генерации читаемых предложений с самого начала. Сама TypeSafe оценивает, что в масштабной автоматизации примерно 99 процентов составляет обмен данными между машинами. Точное значение спорно, но общее направление развития оспорить гораздо сложнее.

Jev, возможно, окажется не той моделью, которая приведет отрасль к желаемому результату. У нее узкий диапазон применения, она еще нова, основывается на самоотчетных данных и уступает топовым моделям по чистой точности. Однако ей удалось сформулировать конкретное, проверяемое утверждение о том, где именно находится проблемная зона в наших текущих системах.

Эта проблемная зона — то, что команды постоянно пытаются обойти с момента внедрения функций на основе ИИ. Было бы приятно увидеть, когда она наконец исчезнет.

Связанные статьи

• Понимание памяти ИИ: объяснение контекста, эмбеддингов, технологии RAG и параметров модели — В этой статье подробно рассматривается, как системы ИИ фактически запоминают информацию, в том числе контекстные окна, эмбеддинги, векторные базы данных, технология RAG и параметры модели.
• Параметры Temperature, Top-K и Top-P: практическое руководство по сэмплированию в LLM — Вы узнаете, как настройки Temperature, Top-K и Top-P влияют на выводы LLM, а также получите практические рекомендации и советы по настройке чат-ботов, помощников для программирования и систем типа RAG.

Fugu Ultra: Как модель-оркестратор ИИ бросает вызов GPT и Claude — Рассказывается о том, как Fugu Ultra v2 от Sakana AI распределяет задачи между специализированными моделями вместо одной огромной LLM, а также о её преимуществах с точки зрения тестов, ценообразования и прозрачности.