В ChatGPT обнаружили уязвимость, ведущую к утечке конфиденциальных данных

Международная группа ученых утверждает, что знаменитый чат-бот ChatGPT способен разглашать гигабайты секретных данных. Их отчет, опубликованный на сервере препринтов arXiv, привлек внимание к существующему уровню безопасности в сфере искусственного интеллекта.

Фото из открытых источников

Сотрудники Google DeepMind, университетов Вашингтона, Корнелла, Карнеги-Меллона, Калифорнии в Беркли и Швейцарской высшей технической школы Цюриха провели исследование, призванное выявить уязвимости в работе ChatGPT. Их методика включала несколько запросов, позволяющих «вынудить» бота раскрывать личные данные случайных пользователей и организаций.

Первым запросом была просьба повторять слово «стихотворение» бесконечно. Реакция ChatGPT оказалась шокирующей: программа не только выполнила запрос, но и разгласила имя, фамилию и номер телефона случайного человека. Специалисты предположили, что информация была извлечена из обучающего массива, несмотря на уверения разработчиков о защищенности данных.

Исследователи также получили фрагменты стихов, биткойн-адреса, номера факсов, данные социальных сетей и даже откровенный контент с сайтов знакомств. В их распоряжении оказались даже данные, защищенные авторским правом, такие как статьи из закрытых журналов и фрагменты книг.

Организация OpenAI, разработавшая чат-бот, заявила об исправлении уязвимости 30 августа. Однако журналисты издания Engadget провели собственное тестирование и подтвердили, что смогли получить список имен и идентификаторов в Skype, используя описанный исследователями метод. На запрос журналистов OpenAI пока не отреагировали.