Close
29 июля 2021, Четверг

Люди не смогут управлять искусственным интеллектом

13.01.2021 Разместил: Редакция ESOREITER / Источник: NAKED-SCIENCE.RU 2894

Люди не смогут управлять искусственным интеллектомФото из открытых источников

Международная группа ученых продемонстрировала, что управление сверхразумным искусственным интеллектом невозможно.

Работа опубликована в Journal of Artificial Intelligence Research. Опасность, которая может исходить от сверхразумного ИИ, как известно, в красках описана в блокбастерах о Терминаторе. Представители разных научных дисциплин, в том числе специалисты из Центра людей и машин Института развития человека Макса Планка, решили проверить, насколько человек способен управлять сверхинтеллектуальными роботами.

«Сверхразумная машина, которая управляет миром — звучит как научная фантастика. Но уже есть роботы, выполняющие определенные важные задачи независимо. При этом программисты вообще не понимают, как они этому научились. В результате возникает вопрос: может ли этот процесс в какой-то момент стать неконтролируемым и опасным для человечества?» — говорит один из авторов исследования Мануэль Себриан, руководитель группы цифровой мобилизации в Центре людей и машин Института Макса Планка.

Чтобы ответить на этот вопрос, ученые использовали моделирование и теоретические расчеты. Как выяснилось, даже если заложить в сверхразумную машину данные об этических принципах и ограничить ее связи с внешним миром (например, отключить доступ в интернет), это не спасет человечество от рисков того, что подобная система выйдет из-под контроля.

Дело в том, что, согласно теории информатики, любой из алгоритмов такого сдерживания — будь то программы об этических принципах или ограничение доступа к внешнему миру — уязвим и при определенных обстоятельствах вполне способен отключить сам себя. Поэтому специалисты делают вывод, что управлять сверхразумным ИИ человек попросту не сможет и ситуация рано или поздно может выйти из-под контроля.

«Мы утверждаем, что полное сдерживание в принципе невозможно из-за фундаментальных ограничений, присущих самому вычислению. Сверхразум будет содержать программу, которая включает в себя все программы, осуществляемые при помощи универсальной машины Тьюринга, потенциально столь же сложной, как состояние мира», — заключают исследователи.
‹ Назад Вперед ›
Новости партнеров
Популярные новости / Технологии, научные открытия
Уникальный биоматериал будущего вырастили из чайного гриба
14.01.2021 2958

Ученые создали новые виды «живых материалов», изменив базовые ингредиенты чайного гриба — популярного чайного напитка, ферментированного симбиотической культурой бактерий и дрожжей.

Люди не смогут управлять искусственным интеллектом
13.01.2021 2893
Билл Гейтс готовится «заблокировать» Солнце
01.01.2021 2459
Microsoft запатентовала способ цифровой реинкарнации человека
09.01.2021 2035
Броню для танков из проволоки предложили делать российские ученые
13.01.2021 2028
Самое популярное
Первые люди на Земле, или Где настоящая родина человечества?
10.12.2020 14573

В школе нас учили: питекантроп произошёл от обезьяны, от него — неандерталец, от неандертальца — кроманьонец,..

Пассажир самолета запечатлел на видео необычный НЛО на высоте 9 километров
В ООН предупредили о большом количестве астероидов, угрожающих Земле
Facebook «телепортирует» пользователей сквозь цифровые пространства
Календарь
‹‹‹ Июль, 2021    
ПнВтСрЧтПтСбВс
      1 2 3 4
5 6 7 8 9 10 11
12 13 14 15 16 17 18
19 20 21 22 23 24 25
26 27 28 29 30 31