Искусственный интеллект сделал стратегию безопасности через неясность устаревшей

Концепция безопасности через неясность, основанная на идее, что системы остаются защищенными, пока их архитектура и уязвимости скрыты, больше не работает. Искусственный интеллект стал инструментом, который окончательно обесценил этот подход.

Поставщики программного обеспечения и независимые исследователи используют агентов искусственного интеллекта для поиска ошибок в продуктах и открытом исходном коде. Это позволяет обнаруживать даже очень редкие уязвимости десятилетней давности. В результате фиксируется рекордное количество раскрытий проблем безопасности и выпусков исправлений, что создает огромную нагрузку на сопровождающих проекты.

Бретт Литерман из FBI отметил, что современные модели смогли взломать библиотеки, которые считались безопасными на протяжении десяти лет и используются в 80 процентах веб серверов. Дастин Чайлдс из Zero Day Initiative указал на пример Microsoft, который выпустил исправления для 974 уязвимостей CVE. Среди них оказались компоненты, о которых не вспоминали годами, такие как клиент Telnet, протокол USB сети Windows RNDIS, технология Unix 1980 годов NFS Portmapper и протокол сетевых карт эпохи Vista Link Layer Topology Discovery.

Злоумышленники также применяют искусственный интеллект для быстрого анализа исправлений и поиска эксплойтов. Например, как минимум четыре шпионские группы, предположительно связанные с Китаем, использовали набор эксплойтов для Chromium. Они сократили временной разрыв между выпуском исправления разработчиками и его доставкой до конечных пользователей.

Особую обеспокоенность вызывает состояние критических операционных технологий и промышленных систем управления. Ранее такие системы были защищены использованием закрытого оборудования и редких протоколов. Теперь преступникам не нужно быть экспертами в этой области, так как искусственный интеллект может изучить эти системы за них. Пять государственных агентств США сообщили, что атакующие использовали скрипты на базе искусственного интеллекта для взлома программируемых логических контроллеров Siemens S7 Series на объектах энергетики, водоснабжения и производства.

Джон Халтквист из Google Threat Intelligence Group подчеркнул, что искусственный интеллект помогает атакующим изучать не только прикладной уровень, но и операционные системы, а также встроенное программное обеспечение. Кейти Муссурис из Luta Security добавила, что искусственный интеллект облегчает взлом, так как он поглотил все данные и помогает находить слабые места даже в незнакомых технологических стеках.

При этом основные проблемы сместились в сторону сортировки и приоритизации исправлений. Муссурис отметила, что искусственный интеллект пока не достиг успехов в защите, в частности в автоматическом исправлении ошибок. Недавние исследования подтверждают, что патчи, созданные искусственным интеллектом, оказываются неудачными более чем в половине случаев.