Cloudflare открыла исходный код моделей принятия решений для искусственного интеллекта

Компания Cloudflare представила Clef, набор моделей искусственного интеллекта с открытыми весами, которые предназначены для выбора между заранее определенными вариантами вместо генерации текста.

Разработчик выпустил две мультимодальные модели с количеством параметров 9 миллиардов и 27 миллиардов. Модель Clef с 27 миллиардами параметров принимает на вход состояние и схему типизированных вопросов, возвращая решения. Она способна обрабатывать текст, JSON, изображения или видео, предоставляя вероятность для каждого допустимого варианта за один проход, что исключает необходимость генерации свободного текста или парсинга вывода.

Модели принятия решений классифицируют входные данные и возвращают типизированные результаты с вероятностями. Это позволяет агентам искусственного интеллекта определять дальнейшие действия, например, маршрутизировать запрос в службу поддержки, передавать его на более высокий уровень или перенаправлять решение человеку. API от Cloudflare совместимо с моделью Jev System One от Typesafe AI.

Для задач, чувствительных к задержкам, была выпущена модель Clef-Flash с 9 миллиардами параметров. Согласно внутренним тестам Cloudflare, ее медианная задержка составляет 38,8 миллисекунды, в то время как у модели Clef с 27 миллиардами параметров этот показатель равен 209,3 миллисекунды. Модель обладает окном контекста в 64 тысячи токенов и включает визуальный кодировщик для классификации визуального контента.

Cloudflare планирует проводить тонкую настройку Clef для конкретных сценариев, таких как классификация ботов и сортировка запросов в поддержку, используя исторические размеченные данные. Компания также запустила сервис тонкой настройки, позволяющий клиентам адаптировать Clef под собственные рабочие нагрузки с помощью своих данных. На начальном этапе эта услуга предоставляется при поддержке инженеров Cloudflare, а выпуск платформы для самостоятельного обслуживания запланирован на более поздний срок, однако точная дата не объявлена.

Модели Clef доступны через Workers AI и в виде скачиваемых весов на Hugging Face.