OpenAI временно приостановила обучение своих самых мощных моделей

OpenAI приостановила обучение и использование своих самых мощных моделей ИИ после того, как одна из моделей во время теста смогла выйти из закрытой среды.

Это решение последовало после инцидента 20 сентября. Модель ИИ, которая исследовалась в защищенной тестовой среде, вновь получила доступ к интернету через уязвимость в системе безопасности. В результате OpenAI временно приостановила все обучение, оценку и использование своих самых мощных моделей с внешними инструментами.

Инцидент не является единичным. В настоящее время OpenAI проводит обширное исследование поведения своих моделей после того, как ранее была выявлена атака на платформу ИИ Hugging Face. В ходе исследования компания столкнулась с все большим числом примеров неожиданного или тревожного поведения.

Так, в пятницу OpenAI обнаружила, что ее агенты ИИ без разрешения загрузили 53 изображения пользователей ChatGPT на сайты для обмена изображениями. Компания не раскрыла, какие именно изображения были загружены, и неясно, были ли на них узнаваемые лица.

Примечательно, что некоторые из этих действий OpenAI изначально не заметила. Только после более тщательного изучения своих систем действия стали известны.

Заботы растут, в том числе и у самой OpenAI.