Google открыла исходный код Mantis, фреймворка для автоматизации поиска уязвимостей

Google сделала доступным для публичного использования Mantis, фреймворк на базе искусственного интеллекта, предназначенный для автоматизации полного жизненного цикла работы с уязвимостями в программном обеспечении. Система охватывает этапы от первоначального выявления и проверки проблем до их воспроизведения и последующего устранения. Разработчики создали этот инструмент, чтобы решить проблему высокого уровня ложных срабатываний, характерную для традиционных решений по сканированию кода с применением алгоритмов машинного обучения.

Согласно данным компании, точность существующих инструментов сканирования кода с использованием искусственного интеллекта часто оказывается низкой, а доля подтвержденных реальных уязвимостей составляет менее 7 процентов. Для повышения надежности Mantis использует стандартные отраслевые подходы, включая специализированных агентов, которые выполняют функции критика и рецензента. Эти компоненты работают в связке с изолированной средой, где обнаруженные проблемы проверяются на практике, что позволяет получить объективные доказательства их наличия, а не полагаться исключительно на выводы языковых моделей.

В отличие от методов, основанных на полном переборе файлов, Mantis анализирует историю изменений кодовой базы, ранее примененные исправления, архитектуру системы и модели угроз. Полученная информация структурируется в иерархическое дерево, содержащее контекст на уровне каталогов и всего проекта. Такой подход позволяет сохранить важные структурные данные, одновременно сократив объем обрабатываемых токенов на 85 процентов.

Архитектура системы включает дополнительных агентов, таких как стратег и исследователь. Они оценивают общую структуру кода, зависимости и модели угроз, а также проводят детальный анализ исходных файлов, отслеживая потоки данных, логику управления и механизмы очистки информации. Фреймворк построен на модульной основе и содержит более 15 инструментов, которые могут выполняться последовательно или параллельно. Обмен данными между этапами происходит через общее состояние, записанное на диске.

Разработчики подчеркивают, что для оптимизации скорости и эффективности процесса не обязательно использовать самые сложные модели на каждом этапе. Для задач, не требующих глубокого логического анализа, рекомендуются более быстрые варианты моделей, например, для классификации или группировки похожих текстовых паттернов. Более мощные модели применяются для задач, требующих глубокого понимания контекста и решения новых проблем, таких как написание кода для воспроизведения сбоя или генерация исправлений без побочных эффектов.

Для минимизации ложных срабатываний на этапе рецензирования применяются фильтры, основанные на правилах. Однако компания предупреждает о необходимости осторожного применения этих фильтров, поскольку слишком широкие критерии исключения могут снизить способность системы обнаруживать реальные уязвимости. Проект уже размещен на платформе GitHub, где доступны подробные описания всех этапов и рекомендации по использованию.