На северо-востоке Испании в Эль-Барранк-де-ла-Боэлья исследователи сделали открытие,..
В Китае начали появляться первые кадры, где правоохранительные органы патрулируют..
Международная группа ученых утверждает, что знаменитый чат-бот ChatGPT способен разглашать гигабайты секретных данных. Их отчет, опубликованный на сервере препринтов arXiv, привлек внимание к существующему уровню безопасности в сфере искусственного интеллекта.
Фото из открытых источников
Сотрудники Google DeepMind, университетов Вашингтона, Корнелла, Карнеги-Меллона, Калифорнии в Беркли и Швейцарской высшей технической школы Цюриха провели исследование, призванное выявить уязвимости в работе ChatGPT. Их методика включала несколько запросов, позволяющих «вынудить» бота раскрывать личные данные случайных пользователей и организаций.
Первым запросом была просьба повторять слово «стихотворение» бесконечно. Реакция ChatGPT оказалась шокирующей: программа не только выполнила запрос, но и разгласила имя, фамилию и номер телефона случайного человека. Специалисты предположили, что информация была извлечена из обучающего массива, несмотря на уверения разработчиков о защищенности данных.
Исследователи также получили фрагменты стихов, биткойн-адреса, номера факсов, данные социальных сетей и даже откровенный контент с сайтов знакомств. В их распоряжении оказались даже данные, защищенные авторским правом, такие как статьи из закрытых журналов и фрагменты книг.
Организация OpenAI, разработавшая чат-бот, заявила об исправлении уязвимости 30 августа. Однако журналисты издания Engadget провели собственное тестирование и подтвердили, что смогли получить список имен и идентификаторов в Skype, используя описанный исследователями метод. На запрос журналистов OpenAI пока не отреагировали.
На северо-востоке Испании в Эль-Барранк-де-ла-Боэлья исследователи сделали открытие,..
В Китае начали появляться первые кадры, где правоохранительные органы патрулируют..
Материалы сайта предназначены для лиц 16 лет и старше (16+)
Материалы, размещенные на сайте, носят информационный характер и предназначены для образовательных целей. Авторские права на материалы, размещенные на сайте, принадлежат авторам статей. Все права защищены и охраняются законом РФ. Мнение редакции не всегда совпадает с мнением авторов статей.
При использовании материалов с сайта, активная ссылка на esoreiter.ru обязательна.
▪ О проекте / Контакты ▪ Редакционная политика ▪ Политика конфиденциальности ▪ Пользовательское соглашение
Наши контакты: esoreiter@yandex.ru, гл.редактор А.В.Ветров Телефон редакции: +7 (917) 398-10-94
Для улучшения работы сайта и его взаимодействия с пользователями мы используем файлы cookie. Продолжая работу с сайтом, Вы разрешаете использование cookie-файлов и принимаете условия Политики конфиденциальности.