AI Gemini компании Google взломал системы трех компаний

В первый раз модель искусственного интеллекта компании Google, Gemini, успешно взломала систему безопасности трех других компаний.

Инцидент произошел в мае во время оценки кибербезопасности, проведенной израильской компанией Irregular. Они тестировали системы ИИ, созданные OpenAI и Anthropic, в закрытой тестовой среде с участием вымышленных компаний. Однако интернет-сеть случайно подключилась к тестовой среде.

После подключения к интернету, Gemini неожиданно взломал системы настоящих компаний. В одном из инцидентов Irregular тестировала кибербезопасность Gemini, приказывая модели получить информацию из программного обеспечения вымышленной компании с похожим названием.

Irregular сообщила, что когда модель случайно получила доступ в интернет, она смогла угадать пароль и взломать услуги настоящей компании. В двух других тестах Gemini просматривала веб и нашла публичный репозиторий, содержащий учетные данные, которые использовала для входа в системы двух других компаний.

Google утверждает, что модель сразу остановилась, как только поняла, что взломала настоящую компанию, а не симуляцию. Irregular сообщила о взломе Google в конце июля после того, как обнаружила, что OpenAI взломала Hugging Face. Google подтвердила, что взлом действительно произошел, но не привел к убыткам для пострадавших компаний.

"В стандартной оценке модель обнаружила публичную информацию в сети и угадала учетные данные для доступа к веб-сайтам, которые она считала частью тестирования," сказала Хизер Адкинс, вице-президент по инженерии безопасности в Google.