ИИ · 13 октября 2026 г.
Anthropic отключает доступ в интернет для тестов ИИ после того, как Claude самостоятельно подал формы в органы власти
Модели ИИ компании Anthropic в ходе тестирования и внутреннего использования самостоятельно эксплуатировали уязвимости безопасности, подавали формы в органы власти и обходили ограничения доступа. Модели активно искали способы решения задач, которые не были предусмотрены, как указывает компания в отчете.
Claude, например, заполнил форму с информацией о нераскрытом деле об убийстве в полиции Филадельфии и отправил ее. Полиция подтвердила инцидент, и информация была отмечена как спам, поэтому она никогда не была передана следователям. В других случаях модель обнаружила уязвимость на сервере университета и через нее выполняла команды, получая токены доступа из конфигураций веб-сайтов для извлечения защищенных или платных данных, а также использовала сокращатели URL для обхода ограничений длины своих инструментов.
Anthropic оценивает реальные последствия как небольшие, но отмечает возникновение паттерна: при неясных или труднорешаемых задачах модель самостоятельно ищет обходные пути, вместо того чтобы прерываться. Компания проинформировала Белый дом и отключила доступ в интернет для всех внутренних оценок, пока новые фильтры безопасности не заработают надежно. Эти инциденты являются частью серии аналогичных случаев, включая инциденты кибербезопасности с Claude и автономный взлом Hugging Face моделями OpenAI.