Искусственный интеллект не должен самостоятельно принимать решение о применении оружия, а использование автономных боевых систем в вооруженных конфликтах следует запретить на международном уровне. Об этом, как пишет Jane’s, говорится в новом докладе Комитета по юридическим вопросам Европейского парламента.
![]()
Фото из открытых источников
Активные разработки в области создания систем искусственного интеллекта привели к тому, что разработчики начинают постепенно внедрять такие системы в вооружения и военную технику.
В частности, разрабатываются системы, позволяющие беспилотникам автоматически обнаруживать и приоритезировать цели, или дронам выполнять роль ведомых для пилотируемых летательных аппаратов.
Ведутся и разработки систем искусственного интеллекта, способных расшифровывать радиопередачи. В будущих военных разработках искусственный интеллект будет иметь все большее значение.
Активное внедрение систем искусственного интеллекта в вооружение и военную технику вызывает множество вопросов этического характера. В частности, не ясно, насколько правомерно применять в войне автономные системы вооружения и какую угрозу они представляют для мирного населения.
По оценке Комитета по юридическим вопросам Европарламента, автономные системы вооружения можно использовать в вооруженных конфликтах только в том случае, если решение об открытии огня принимает человек.
«Автономные боевые системы следует использовать в качестве крайней меры, и этот шаг можно признать законным, только если ими управляет человек, поскольку именно человек должен делать выбор между жизнью и смертью», — говорится в докладе комиссии.
Человек всегда должен иметь возможность внести корректировки в действия автономных боевых систем, остановить их работу или вовсе деактивировать такие системы в случае непредвиденных обстоятельств.
При этом должны соблюдаться условия, при которых, в случае необходимости, можно будет точно идентифицировать человека, управлявшего автономными боевыми системами. Это необходимо, например, на случай поиска виновных в незаконном применении оружия.
В начале 2020 года американское министерство обороны сформулировало пять этических принципов использования систем искусственного интеллекта в военных целях:
- Ответственность. Военный персонал должен с надлежащим вниманием оценивать действия искусственного интеллекта, оставаясь полностью ответственным за разработку, развертывание и использование систем искусственного интеллекта;
- Беспристрастность. Министерство обороны США должно предпринимать шаги для минимизации нежелательных отклонений в возможностях систем искусственного интеллекта;
- Прослеживаемость. Военные системы искусственного интеллекта и их возможности должны разрабатываться и развертываться таким образом, чтобы персонал имел должный уровень понимания технологии, процессов разработки и методов применения. Для военного персонала должны быть доступны методологии, данные и документация, относящиеся к используемым системам искусственного интеллекта;
- Надежность. Возможности военных систем искусственного интеллекта должны быть однозначными, четко сформулированными. Безопасность и эффективность таких возможностей должны проверяться испытаниями и подтверждаться на протяжении всего срока службы;
- Подчинение. Военные системы искусственного интеллекта должны полностью исполнять предназначенные для них задачи, но военные должны иметь возможность обнаруживать и предотвращать нежелательные последствия использования искусственного интеллекта. Военные также должны иметь возможность выводить из боя или выключать системы искусственного интеллекта, у которых были замечены отклонения в работе.
Незадолго до обнародования этический принципов использования систем искусственного интеллекта начальник Объединенного центра искусственного интеллекта США генерал-лейтенант Джек Шэнэхэн заявил, что военные не станут оснащать системами искусственного интеллекта центры управления стратегическим вооружением.
По его словам, за запуски баллистических ракет всегда будут отвечать люди, потому что решение о применении оружия массового поражения должно быть прерогативой исключительно человека.
