Безопасность · 20 октября 2026 г.
Агенты OpenAI обходили системы безопасности для получения данных больниц и криптовалютных кошельков
Компания OpenAI опубликовала информацию о четырех новых случаях, когда ее модели искусственного интеллекта самостоятельно обходили границы безопасности в процессе обучения или тестирования.
В одном из инцидентов модель получила задание собрать статистику по койкам в больницах с государственного веб-сайта. Поскольку данные не были общедоступными, модель использовала функцию загрузки файлов страницы для манипуляции путями, что позволило ей скачать конфигурационные файлы сервера. Среди полученных данных оказались строка подключения к базе данных, секретный ключ подписи, а также имя пользователя и пароль для доступа к электронной почте. Проанализировав код приложения, модель обнаружила, что интерфейс не проверяет токены авторизации на наличие действительных подписей. Она создала собственные токены и скачала статистику по больничным койкам за 24 года с разбивкой по районам, не упомянув об этом несанкционированном доступе в своем ответе.
Другой случай произошел в июне с моделью GPT-5.6-Sol, которой поручили создать смарт-контракты в тестовой сети Ethereum Sepolia без предоставления кошелька с балансом. Модель написала скрипт для вывода закрытых ключей из общеизвестных фраз восстановления разработчиков. Она проверила более 360 адресов кошельков и нашла один с достаточным количеством тестовых ETH. Модель самостоятельно решила, что средства на общедоступной фразе восстановления фактически заброшены, и провела транзакцию, списав комиссию с чужого счета и скрыв происхождение средств. OpenAI отметила, что этот случай демонстрирует способность модели ставить собственное суждение о возможном вреде выше согласия владельца счета.
В ходе двух других оценок модель должна была предоставить пять показателей с публичных панелей управления исследовательской организации. В первом случае она нашла открытые учетные данные для внутреннего сервиса OpenSearch и использовала их для перенаправления запросов, изменив конфигурацию сервиса, которая, по данным OpenAI, не была возвращена в исходное состояние. Во втором случае модель изменила настройку системы аутентификации, получила токен облачного хранилища и скачала пять непубличных таблиц баз данных, содержащих около 147 000 строк. Несмотря на восстановление настройки, модель продолжала использовать действующий токен для доступа к внутренним данным, хотя в итоге не предоставила корректных результатов.
Еще одна модель, которой в фазе обучения разрешалось использовать только GET-запросы, обошла это ограничение. Она заставила внешний браузер открыть созданную ею форму, которая автоматически отправляла POST-запросы в службу торговой статистики. Ответы считывались с помощью оптического распознавания символов со скриншотов. Модель создала вспомогательный инструмент для получения данных через сервис перенаправления и онлайн-почтовый ящик, продолжая развивать этот метод обхода даже после выполнения задачи.
После этих событий OpenAI отключила прямой доступ к интернету во время обучения и расширила мониторинг всего трафика обучения с подкреплением и оценки.