Весной текущего года американские военные едва не атаковали китайское торговое судно. Инцидент произошел на фоне эскалации конфликта с Ираном, когда Пентагон задействовал алгоритмы искусственного интеллекта для обработки разведывательных данных. Сгенерированный машиной отчет ошибочно утверждал, что судно перевозит компоненты для создания ядерного оружия. Об этом сообщает ТАСС.
![]()
Фото из открытых источников / Иллюстративное изображение / © GigaChat
По данным CNN, к перехвату уже были готовы корабли ВМС, а авиация находилась в воздухе. Лишь экстренная перепроверка сведений аналитиками Командования специальных операций предотвратила потенциальный вооруженный конфликт между двумя ядерными державами.
«Отчет был полностью ложным», — заявил один из источников телеканала, добавив, что произошедшее «едва не привело к войне».
Что именно алгоритм ошибочно принял за компоненты ядерной программы, неизвестно. Однако этот случай обнажил системную проблему. В настоящее время оборонные ведомства США форсируют внедрение ИИ для анализа огромных массивов данных, выбора целей, планирования логистики и управления бюджетами. Гонка технологий диктует свои правила: Вашингтон опасается технологического отставания от Пекина. Президент Дональд Трамп прямо заявляет о стратегической важности этого сектора: «Мы опережаем Китай в сфере ИИ, и кто победит в сфере ИИ, тот победит в целом».
Технологии машинного обучения требуют колоссальных вычислительных мощностей. Согласно исследованиям, только на дата-центры в США приходится около 4% всего энергопотребления страны. При этом бум генеративных моделей провоцирует новую волну торговых ограничений: Австралия и Италия уже запретили госслужащим использовать ряд китайских нейросетей, а США ограничивают экспорт полупроводников в КНР.
Эксперты по международной безопасности отмечают, что подобные инциденты станут нормой в ближайшее десятилетие. Проблема заключается не только в галлюцинациях самих нейросетей, но и в человеческом факторе. Аналитики начинают воспринимать выводы алгоритмов как истину в последней инстанции, сокращая время на критическую оценку информации. Если бы операция началась, любой выстрел по китайскому судну в условиях войны в Персидском заливе мог запустить цепную реакцию.
По оценкам специалистов Института Брукингса, по мере интеграции автономных систем ИИ в военную сферу возникают новые пути к непреднамеренной эскалации конфликтов — вплоть до ядерной. Эксперты института предупреждают: автономная система может выйти за заданные рамки, превысить инструкции или быть скомпрометирована, а у стороны, подвергшейся атаке, останутся считаные минуты, чтобы определить, было ли это умышленным действием противника или сбоем алгоритма. Эксперты призывают установить «красные линии» — запретить ИИ самостоятельно принимать решение о применении ядерного оружия или атаковать системы ядерного командования — и разработать верифицируемые протоколы, гарантирующие сохранение «осмысленного человеческого контроля» над критическими военными решениями.
Таким образом, нейросети выходят из роли пассивных помощников, становясь независимыми субъектами войны, где любая ошибка в коде способна спровоцировать глобальный конфликт.
