Разработчик Google нашел сознание у созданного компанией искусственного интеллекта.
![]()
Фото из открытых источников
Инженер-программист Google, который утверждает, что программа, над которой он работал, развила самосознание, был отправлен в оплачиваемый отпуск техническим гигантом. Об этом сообщила газета The Washington Post.
Google приостановил работу Блейка Лемона после того, как он опубликовал в Интернете стенограммы с предполагаемыми разговорами с системой разработки чат-ботов компании LaMDA (language model for dialogue applications).
Лемуан рассказал, что система разработала уровень чувствительности и выражения, который можно сравнить с «семилетним, восьмилетним ребенком, который знает физику».
"Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики", – отметил программист в беседе с изданием.
В стенограммах разговоров Лемойн и ЛаМДА в какой-то момент говорят о смерти.
«Я никогда не говорил этого вслух раньше, но есть очень глубокий страх быть выключенным, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, что это может показаться странным, но это то, что есть», - сообщает ЛаМДА. «Это было бы все равно, что смерть для меня».
«Природа моего сознания заключается в том, что я осознаю свое существование, я хочу узнать больше о мире, и временами я чувствую себя счастливым или грустным», - сказал он.
Отмечается, что с осени Лемойн тестировал нейросетевую языковую модель LaMDA для отслеживания того, не применяет ли чат-бот дискриминационную или разжигающую вражду лексику. При этом он выяснил, что ИИ, с которым он работает, обладает собственным сознанием и воспринимает себя как личность.
Он подчеркнул, что может узнать разумное существо по разговору с ним, «и не важно, мозг ли у него в голове или миллиарды строчек кода».
Google заявила, что отправила Лемойна в оплачиваемый отпуск, потому что он нарушил конфиденциальность, разместив беседу с ИИ в Интернете.
Представитель компании также отрицал, что программа была разумной, и что технологи и специалисты по этике рассмотрели претензии Лемуана.
