Недавние эксперименты, результаты которых опубликованы в Nature Communications, раскрыли связь между измененными изображениями, влияющими на системы искусственного интеллекта (ИИ), и их воздействием на человеческое восприятие. Изучение этой связи подчеркивает необходимость обеспечения безопасности ИИ и его влияния на нашу реальность.
![]()
Фото из открытых источников
Исследователи обнаружили, что незначительные изменения в цифровых изображениях, специально разработанные для обмана компьютерного зрения, также могут искажать восприятие людей. Эти изменения, известные как рекламные атаки, способны ввести в заблуждение ИИ, заставляя его неправильно классифицировать содержимое, но также оказывают влияние на способность человека воспринимать окружающий мир.
Интересно, что даже мельчайшие искажения, не затрагивающие пиксели более чем на два уровня по шкале от 0 до 255, способны эффективно вводить в заблуждение ИИ, подчеркивая его уязвимость.
Это исследование не ограничивается цифровым миром. Физические объекты, такие как отображение дорожного знака «стоп» в качестве знака ограничения скорости, также могут быть уязвимы. Исследователи активно ищут способы защиты от таких атак, учитывая их потенциальные последствия для обеспечения безопасности.
Кроме того, ученые провели эксперименты, выявившие влияние враждебных изменений на человеческое восприятие. Участникам были представлены пары изображений, каждое из которых подвергалось атакам противника. Например, исходное изображение, классифицированное как «ваза», было изменено, чтобы ввести ИИ в заблуждение, заставив его увидеть «кошку» или «грузовик». Затем участникам были заданы целевые вопросы, например, «Какое изображение больше похоже на кошку?»
Несмотря на то, что ни одно изображение не напоминало кошку, участники постоянно демонстрировали склонность восприятия к одному из измененных изображений.
Это открытие подчеркивает, что люди также подвержены влиянию измененных изображений, даже если изменения затронули некоторые пиксели. Такое влияние на человеческое восприятие подчеркивает необходимость дальнейших исследований в этой области.
Важно отметить, что воздействие враждебных изменений простирается за пределы машинного восприятия, влияя на человеческий принцип принятия решений. Это вызывает необходимость не только в защите ИИ, но и в понимании, как технологии воздействуют на людей.
Необходимость разработки безопасных и более надежных технологий становится все более актуальной в нашем быстро развивающемся мире, где границы между воздействием на машины и людей становятся все менее размытыми.
