Риски нового агентного ИИ: утечка данных чат-бота

a triangle shaped sign on a yellow wall — Markus Spiske / Unsplash

Использование искусственного интеллекта (ИИ), основанного на автономных агентах, в различных системах компаний вызывает основательные изменения в ландшафте рисков кибербезопасности.

Последний отчет State of the Internet (SOTI) от Akamai под названием Агентный фронтир: скорость, масштаб и нечеловеческая идентичность раскрывает, что основные вызовы для главных специалистов по информационной безопасности (CISO) изменились от управления человеческой идентичностью к управлению поведением нечеловеческих сущностей.

Отчет подчеркивает ряд критических уязвимостей безопасности, вызванных внедрением ИИ в корпоративной среде.

По словам главного специалиста по безопасности Akamai, Боаза Гелборда, стремительное развитие ИИ создает огромное давление на всю экосистему сетевой безопасности. "ИИ представляет собой момент 'всё, повсюду, сразу' для всей экосистемы безопасности. Существует три основных угрозы: использование ИИ внутри организации, интеграция ИИ непосредственно в продукты и облачные рабочие нагрузки, а также атаки на основе ИИ, нацеленные на компании. Программы безопасности должны адаптироваться к этой стремительно развивающейся реальности,", отметил Боаз Гелборд. Кроме того, советник CISO Akamai, Стив Уинтерфельд, добавил, что переход от ИИ, отвечающего на вопросы, к ИИ, выполняющему бизнес-стратегии, требует эволюции лидерства в области кибербезопасности.