Компания TypeSafe AI представила модель Jev для оценки решений

Стартап TypeSafe AI разработал модель искусственного интеллекта под названием Jev, которая предназначена для быстрой оценки данных внутри программного обеспечения вместо создания текстовых ответов.

Модель Jev работает по принципу оценки вариантов, которые заранее определяют разработчики. Вместо написания электронных писем или программного кода система анализирует входящие запросы и присваивает им определенные категории или вероятности. Например, в интернет-магазине система может классифицировать сообщение клиента как проблему с оплатой и определить вероятность запроса на возврат средств, после чего программное обеспечение направит запрос в бухгалтерию согласно установленным правилам.

Согласно данным TypeSafe, время отклика Jev составляет от 70 до 500 миллисекунд, что значительно быстрее современных языковых моделей. Такая скорость достигается за счет отказа от пошаговой генерации текста и параллельного вычисления нескольких результатов. Компания предполагает, что это позволит использовать модель для мгновенной проверки ответов других ИИ-помощников, анализа интереса к покупке или определения момента, когда в диалог должен вмешаться человек.

Стоимость использования модели составляет 0,042 доллара США за миллион входных токенов, при этом за выходные данные плата не взимается. Разработчики могут получить доступ к системе через список ожидания.

TypeSafe заявляет, что Jev не подвержена галлюцинациям, однако эта гарантия относится только к структуре вывода. Модель не создает ответы вне заданных вариантов, но может выбрать фактически неверный вариант из предложенного списка. Также отмечается, что опубликованные тесты производительности основаны на внутренних рабочих процессах компании и не включают независимую проверку или сравнение с моделью GPT-6 Astra.