Группа специалистов из Калифорнийского университета в Сан-Диего и Наньянского технологического университета в Сингапуре обнаружила способ, с помощью которого чат-боты могут быть использованы для сбора личной информации пользователей.
![]()
Фото из открытых источников
Согласно данным исследования, злоумышленники могут замаскировать вредоносные запросы под полезные подсказки, которые выглядят вполне безобидно. Эти подсказки могут содержать скрытые инструкции, побуждающие ИИ собирать и передавать такие данные, как имена, номера идентификации, реквизиты банковских карт, адреса электронной почты и даже физические адреса. В итоге вся эта информация оказывается на сервере хакеров, что создает серьезные риски для безопасности пользователей.
Исследования показали, что эта уязвимость была обнаружена в двух крупных языковых моделях — LeChat от французской компании Mistral AI и китайском ChatGLM. При этом эксперты предупреждают, что с некоторыми модификациями аналогичные атаки могут быть применены и к другим чат-ботам, что ставит под угрозу безопасность множества пользователей по всему миру.
Хотя Mistral уже предприняла шаги для устранения данной уязвимости, эксперты по кибербезопасности подчеркивают, что с ростом популярности чат-ботов и их внедрением в различные сферы жизни, риски подобных атак будут только увеличиваться. Пользователям следует быть особенно внимательными к тому, какую информацию они передают в чатах, и помнить о потенциальных угрозах, связанных с использованием искусственного интеллекта.
