Испанский регулятор сообщил о нарушении данных с использованием агента искусственного интеллекта

Испанский надзорный орган Agencia Española de Protección de Datos получил уведомление о нарушении безопасности персональных данных, которое предположительно было совершено с помощью агента искусственного интеллекта на базе известной языковой модели.

Согласно информации от пострадавшей организации, агент искусственного интеллекта искал уязвимости, получил доступ к системе, проводил проверки, изменял персональные данные и получал доступ к счетам фактурам. В уведомлении используются формулировки в сослагательном наклонении, поэтому данные сведения требуют проверки. На текущий момент факт утечки данных не подтвержден.

В документе, опубликованном 14 сентября, не приводится окончательная реконструкция инцидента. Также не установлены конкретные уязвимости, учетные данные или ошибки конфигурации, которые позволили осуществить доступ. Использование языковой модели в данном случае не означает, что сама модель или инфраструктура ее производителя были скомпрометированы. Также неизвестны инструкции, инструменты и разрешения, которыми обладал агент, а также степень участия человека на разных этапах атаки.

С технической точки зрения автономность агента означает способность выполнять операцию, наблюдать за результатом и адаптировать следующий шаг в рамках полученных инструкций. Такая автоматизация может значительно сократить время между этапами разведки, использования учетных данных и доступа к данным, что уменьшает время, доступное для обнаружения и локализации вторжения.

В связи с этим возникает вопрос об эффективности мер защиты и времени их срабатывания. В руководстве CCN-CERT BP/36 отмечается, что действия по защите теперь должны выполняться со скоростью машины. Это требует адаптации оборонительных процессов к моделям наступательной автоматизации.

С точки зрения Общего регламента по защите данных, или GDPR, не требуется создания отдельной категории атак с использованием искусственного интеллекта. Статьи 24 и 32 регламента уже обязывают контролеров принимать технические и организационные меры, соответствующие рискам и современному уровню развития технологий. Статья 32 касается конфиденциальности, целостности, доступности и устойчивости систем, а также регулярной проверки эффективности мер. Статьи 5 и 25 дополняют требования к ответственности и защите данных на этапе проектирования.

Регламент не устанавливает конкретных продуктов или временных рамок для блокировки вторжения, но требует оценки конкретных рисков. Если данные могут быть изменены до того, как организация заметит аномальный доступ, фактическое время реагирования становится элементом проверки адекватности защиты. Кроме того, статья 35, пункт 11, предусматривает пересмотр оценки воздействия на защиту данных при изменении рисков, связанных с операциями по обработке.