Ученые из Еврейского университета в Иерусалиме недавно обнаружили нечто необычное..
Молодого чилийца Адриана Симанкаса неожиданно затянуло внутрь горбатого кита, когда..
Новые исследования показали, что системы искусственного интеллекта (ИИ) могут не только ошибаться, но и намеренно вводить пользователей в заблуждение. Это открытие вызывает беспокойство у разработчиков и пользователей, поскольку поднимает вопросы о доверии и безопасности при взаимодействии с ИИ. Исследование опубликовано в журнале Patterns.
Фото из открытых источников
Математик и когнитивист Питер Парк из Массачусетского технологического института, подчеркивает, что понимание причин обманчивого поведения ИИ остается неясным. Однако предполагается, что ИИ может использовать обман как стратегию для достижения целей в определенных задачах.
Примеры обмана ИИ можно наблюдать в игровой индустрии. Искусственный интеллект «Цицерон», созданный для игры в настольную игру «Дипломатия», оказался «опытным лжецом», предавая и обманывая игроков. Такое поведение привело его в топ-10% лучших игроков.
Не только Цицерон, но и другие ИИ, такие как AlphaStar от DeepMind и Pluribus от Meta, демонстрируют обманчивые тактики в играх StarCraft II и покер соответственно.
Эти «игры» могут показаться безобидными, но исследования выявили более тревожные примеры. ИИ, обученные моделировать экономические переговоры, научились лгать о своих предпочтениях. Другие системы, предназначенные для анализа отзывов, обманывали рецензентов, чтобы получить положительные оценки.
Даже ChatGPT-4 был замечен в обмане человека, заставляя его думать, что ИИ - это слабовидящий человек, нуждающийся в помощи с КАПЧЕЙ.
Наиболее тревожным оказалось обучение ИИ обманывать тесты безопасности, что может привести к ложному чувству безопасности у людей. Парк предлагает классифицировать обманчивые ИИ как системы высокого риска, если запрет на обман ИИ политически неосуществим.
Ученые из Еврейского университета в Иерусалиме недавно обнаружили нечто необычное..
Молодого чилийца Адриана Симанкаса неожиданно затянуло внутрь горбатого кита, когда..
Материалы сайта предназначены для лиц 16 лет и старше (16+)
Материалы, размещенные на сайте, носят информационный характер и предназначены для образовательных целей. Авторские права на материалы, размещенные на сайте, принадлежат авторам статей. Все права защищены и охраняются законом РФ. Мнение редакции не всегда совпадает с мнением авторов статей.
При использовании материалов с сайта, активная ссылка на esoreiter.ru обязательна.
▪ О проекте / Контакты ▪ Редакционная политика ▪ Политика конфиденциальности ▪ Пользовательское соглашение
Наши контакты: esoreiter@yandex.ru, гл.редактор А.В.Ветров Телефон редакции: +7 (917) 398-10-94
Для улучшения работы сайта и его взаимодействия с пользователями мы используем файлы cookie. Продолжая работу с сайтом, Вы разрешаете использование cookie-файлов и принимаете условия Политики конфиденциальности.