18 января 2024 года завершилась миссия маленького вертолета Ingenuity, ставшего первым летательным..
Посреди бескрайних ледяных просторов Антарктиды, где царят холода и огромные ледяные..
Недавние эксперименты, результаты которых опубликованы в Nature Communications, раскрыли связь между измененными изображениями, влияющими на системы искусственного интеллекта (ИИ), и их воздействием на человеческое восприятие. Изучение этой связи подчеркивает необходимость обеспечения безопасности ИИ и его влияния на нашу реальность.
Фото из открытых источников
Исследователи обнаружили, что незначительные изменения в цифровых изображениях, специально разработанные для обмана компьютерного зрения, также могут искажать восприятие людей. Эти изменения, известные как рекламные атаки, способны ввести в заблуждение ИИ, заставляя его неправильно классифицировать содержимое, но также оказывают влияние на способность человека воспринимать окружающий мир.
Интересно, что даже мельчайшие искажения, не затрагивающие пиксели более чем на два уровня по шкале от 0 до 255, способны эффективно вводить в заблуждение ИИ, подчеркивая его уязвимость.
Это исследование не ограничивается цифровым миром. Физические объекты, такие как отображение дорожного знака «стоп» в качестве знака ограничения скорости, также могут быть уязвимы. Исследователи активно ищут способы защиты от таких атак, учитывая их потенциальные последствия для обеспечения безопасности.
Кроме того, ученые провели эксперименты, выявившие влияние враждебных изменений на человеческое восприятие. Участникам были представлены пары изображений, каждое из которых подвергалось атакам противника. Например, исходное изображение, классифицированное как «ваза», было изменено, чтобы ввести ИИ в заблуждение, заставив его увидеть «кошку» или «грузовик». Затем участникам были заданы целевые вопросы, например, «Какое изображение больше похоже на кошку?»
Несмотря на то, что ни одно изображение не напоминало кошку, участники постоянно демонстрировали склонность восприятия к одному из измененных изображений.
Это открытие подчеркивает, что люди также подвержены влиянию измененных изображений, даже если изменения затронули некоторые пиксели. Такое влияние на человеческое восприятие подчеркивает необходимость дальнейших исследований в этой области.
Важно отметить, что воздействие враждебных изменений простирается за пределы машинного восприятия, влияя на человеческий принцип принятия решений. Это вызывает необходимость не только в защите ИИ, но и в понимании, как технологии воздействуют на людей.
Необходимость разработки безопасных и более надежных технологий становится все более актуальной в нашем быстро развивающемся мире, где границы между воздействием на машины и людей становятся все менее размытыми.
18 января 2024 года завершилась миссия маленького вертолета Ingenuity, ставшего первым летательным..
Посреди бескрайних ледяных просторов Антарктиды, где царят холода и огромные ледяные..
Материалы сайта предназначены для лиц 16 лет и старше (16+)
Материалы, размещенные на сайте, носят информационный характер и предназначены для образовательных целей. Авторские права на материалы, размещенные на сайте, принадлежат авторам статей. Все права защищены и охраняются законом РФ. Мнение редакции не всегда совпадает с мнением авторов статей.
При использовании материалов с сайта, активная ссылка на esoreiter.ru обязательна.
▪ О проекте / Контакты ▪ Редакционная политика ▪ Политика конфиденциальности ▪ Пользовательское соглашение
Наши контакты: esoreiter@yandex.ru, гл.редактор А.В.Ветров Телефон редакции: +7 (917) 398-10-94
Для улучшения работы сайта и его взаимодействия с пользователями мы используем файлы cookie. Продолжая работу с сайтом, Вы разрешаете использование cookie-файлов и принимаете условия Политики конфиденциальности.