Военно-морские силы США едва не захватили китайское судно из-за ошибки ИИ

Военно-морские силы США в весенний период 2026 года почти захватили китайское судно на основе неверного, сгенерированного ИИ разведывательного отчета. Аналитик Специального оперативного командования использовал чат-бота, который ошибочно утверждал, что судно транспортирует компоненты атомной программы. Военные солдаты уже готовились к захвату, военные самолеты находились в воздухе. Только незадолго до операции была обнаружена ошибка.

Чат-бот объединил открытые и секретные данные, неверно идентифицировав груз, это называется "галлюцинацией" или "ИИ-бредом". Министр обороны Пит Хегсетх продвигает использование ИИ в военной сфере с помощью стратегии ускорения, однако отсутствуют единые стандарты для проверки информации, сгенерированной ИИ. Внутренние системы в основном являются копиями коммерческих продуктов "с помадой", по словам бывшего чиновника США. Особенно молодые аналитики склонны не критично доверять инструментам ИИ. "ИИ позволяет быстрее прийти к плохой идее",, сказал один из источников.

Этот инцидент дает пищу для размышлений тем, кто предупреждает о рисках ИИ, которые больше беспокоят не мощный ИИ, а некомпетентные системы в руках некритичных или злонамеренных пользователей.