Close
18 апреля 2024, Четверг
Информационно-познавательный портал. 16+

Эксперт предупредил о «галлюцинациях» у чат-ботов с ИИ

14.02.2023 Разместил: Редакция ESOREITER / Источник: 3DNEWS.RU 1536

Основанные на алгоритмах искусственного интеллекта чат-боты могут представлять угрозу для пользователей в силу своего несовершенства — у них случаются своего рода «галлюцинации», заявил старший вице-президент компании Google и глава подразделения Google Search Прабхакар Рагхаван (Prabhakar Raghavan) в интервью немецкой газете Welt am Sonntag.

Эксперт предупредил о «галлюцинациях» у чат-ботов с ИИФото из открытых источников

«Разновидность ИИ, о которой мы сейчас говорим, иногда приходит к тому, что мы называем галлюцинациями. <..> Это выражается в том, что машина даёт убедительный, но полностью выдуманный ответ», — заявил господин Рагхаван.

И добавил, что одной из фундаментальных задач является сведение числа таких инцидентов к минимуму.

Google впервые начала проигрывать на поле технологий для веб-поиска после того, как Microsoft за $10 млрд заручилась поддержкой компании OpenAI, которая недавно представила революционный проект ChatGPT. Языковая ИИ-модель в удивительно человечной манере отвечает на запросы: дошло до того, что чат-бота пригласили на собеседование, а ещё он написал дипломную работу.

Поисковый гигант на днях представил собственного чат-бота Bard, которого не смогли уберечь от «галлюцинации» даже в рекламном ролике — он дал явно недостоверный ответ на вопрос по астрономии. Это вызвало недовольство научного сообщества, а акции владеющего Google холдинга Alphabet рухнули на 8 %. «Мы, конечно, осознаём срочность [решения проблемы], но также ощущаем большую ответственность. И определённо не хотим вводить общественность в заблуждение», — добавил глава Google Search.

‹ Назад
Вперед ›
Интересное в СМИ