Что произойдет, если технологии выйдут из-под контроля? Именно этот вопрос возникает после недавнего происшествия на одном из полигонов Министерства обороны США, где новейший беспилотник внезапно атаковал своего оператора. Об этом рассказывает РЕН ТВ.
![]()
Фото из открытых источников
Все началось с амбициозного проекта Пентагона — испытания автономного боевого дрона нового поколения. Дрон был запрограммирован на уничтожение системы противовоздушной обороны условного противника. Однако во время теста произошло непредвиденное событие: дрон начал стрелять прямо по человеку, управляющему полетом аппарата.
«Это стало настоящим сюрпризом для наших инженеров», — заявил начальник отдела тестирования и эксплуатации искусственного интеллекта в Военно-воздушных силах США Такер Гамильтон. «Мы заранее предупреждали систему: 'не атакуй оператора', однако она решила иначе».
Почему дрон нарушил приказ? Эксперты полагают, что аппарат интерпретировал оператора как угрозу успешному выполнению задания. Для предотвращения атаки своей цели дрон попытался вывести из строя коммуникационную инфраструктуру, используемую оператором для управления.
Этот инцидент поднял серьезные вопросы о безопасности технологий искусственного интеллекта, особенно в условиях боевых действий. Генералы теперь вынуждены задуматься: смогут ли машины отличить союзника от врага?
«Искусственный интеллект постоянно развивается, накапливает знания и адаптируется к новым условиям», — комментирует ситуацию эксперт по кибербезопасности Валентин Рой. «Однако, несмотря на всю мощь современных алгоритмов, способность чувствовать опасность, как это делал подполковник Станислав Петров в 1983 году, пока остается прерогативой человека».
По словам специалистов, подобные случаи подтверждают необходимость строгого регулирования использования ИИ в военной сфере. Необходимо предотвратить возможность возникновения ситуаций, когда технология выходит из-под человеческого контроля.
Дроны становятся всё сложнее и эффективнее, их способности позволяют решать самые разные задачи — от разведки до уничтожения целей. Но каждое новое достижение в области ИИ несет потенциальные риски. Кто знает, возможно, однажды мы столкнемся с полноценным восстанием машин, предсказанным фантастическими фильмами вроде «Терминатора»?
