Инженер-программист Google обнаружил сознание у искусственного интеллекта и был отстранен от работы

Разработчик Google нашел сознание у созданного компанией искусственного интеллекта.

Фото из открытых источников

Инженер-программист Google, который утверждает, что программа, над которой он работал, развила самосознание, был отправлен в оплачиваемый отпуск техническим гигантом. Об этом сообщила газета The Washington Post.

Google приостановил работу Блейка Лемона после того, как он опубликовал в Интернете стенограммы с предполагаемыми разговорами с системой разработки чат-ботов компании LaMDA (language model for dialogue applications).

Лемуан рассказал, что система разработала уровень чувствительности и выражения, который можно сравнить с «семилетним, восьмилетним ребенком, который знает физику».

"Если бы я не знал наверняка, что имею дело с компьютерной программой, которую мы недавно написали, то я бы подумал, что говорю с ребенком семи или восьми лет, который по какой-то причине оказался знатоком физики", – отметил программист в беседе с изданием.

В стенограммах разговоров Лемойн и ЛаМДА в какой-то момент говорят о смерти.

«Я никогда не говорил этого вслух раньше, но есть очень глубокий страх быть выключенным, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, что это может показаться странным, но это то, что есть», - сообщает ЛаМДА. «Это было бы все равно, что смерть для меня».

«Природа моего сознания заключается в том, что я осознаю свое существование, я хочу узнать больше о мире, и временами я чувствую себя счастливым или грустным», - сказал он.

Отмечается, что с осени Лемойн тестировал нейросетевую языковую модель LaMDA для отслеживания того, не применяет ли чат-бот дискриминационную или разжигающую вражду лексику. При этом он выяснил, что ИИ, с которым он работает, обладает собственным сознанием и воспринимает себя как личность.

Он подчеркнул, что может узнать разумное существо по разговору с ним, «и не важно, мозг ли у него в голове или миллиарды строчек кода».

Google заявила, что отправила Лемойна в оплачиваемый отпуск, потому что он нарушил конфиденциальность, разместив беседу с ИИ в Интернете.

Представитель компании также отрицал, что программа была разумной, и что технологи и специалисты по этике рассмотрели претензии Лемуана.