Весной 2026 года американские военные едва не провели операцию против китайского судна на фоне войны с Ираном. Причиной стал разведывательный отчет, в котором искусственный интеллект ошибочно определил груз корабля как компоненты для создания ядерного оружия.
История произошла в разгар войны с Ираном. Среди американского руководства распространили доклад аналитика командования специальных операций, в котором утверждалось, что китайское судно на Ближнем Востоке перевозит компоненты ядерной программы, пишет CNN.
По данным четырех источников, знакомых с ситуацией, американские военные восприняли информацию как реальную угрозу и начали готовить перехват корабля. Двое собеседников рассказали, что вооруженные военнослужащие готовились подняться на борт. В воздух уже были подняты военные самолеты.
Однако непосредственно перед началом операции чиновники внимательнее изучили исходный отчет. Тогда выяснилось, что аналитик использовал искусственный интеллект, а чат-бот неправильно определил содержимое груза.
CNN не удалось установить, что именно система ошибочно приняла за компоненты для создания ядерного оружия. По словам одного из источников, сам доклад оказался «полностью ложным». При этом его последствия могли быть гораздо серьезнее: собеседник заявил, что документ «чуть не спровоцировал войну».
Любая силовая операция против китайского судна могла привести к вооруженному столкновению между США и Китаем.
Этот случай показал одну из наиболее опасных сторон стремительного внедрения ИИ в американские вооруженные силы и разведку. Технологию используют для обработки огромных массивов разведданных, определения целей для ударов, а также в логистике, управлении бюджетами и цепочками поставок.
В данном случае аналитик запросил у чат-бота информацию о судовом манифесте, полученную от Тихоокеанского командования специальных операций США на Гавайях. Неизвестно, использовался ли коммерческий сервис или специальная правительственная система.
«Внутренние инструменты — это в основном просто приукрашенные копии коммерческих программ», — рассказал бывший высокопоставленный американский чиновник, знакомый с системами ИИ, которые применяют военные и разведывательные аналитики.
Чат-бот объединил информацию из открытых источников с секретными данными радиоэлектронной разведки из правительственных архивов и на их основе сделал ошибочный вывод о грузе китайского судна.
На этом цепочка не остановилась. Аналитик вновь использовал ИИ — уже для того, чтобы оформить полученную информацию в стандартный разведывательный отчет. Документ в таком виде передали дальше, и именно он стал основанием для подготовки военной операции.
История показывает, насколько опасной может оказаться ошибка ИИ, если ее результат проходит через разведывательную систему как достоверная информация. В данном случае цена такой ошибки могла измеряться уже не качеством одного отчета, а риском прямого конфликта двух крупнейших держав.
Как сообщал From-UA.org, бывший инженер Anthropic и OpenAI заявил, что ИИ может убить всех нас до конца десятилетия.
