Искусственный интеллект за последние годы совершил настоящий технологический скачок. Сегодня многие задумываются о том, каким может быть следующий этап развития этой технологии. Среди футурологов и специалистов по ИИ всё чаще обсуждается возможность появления систем, способных к самостоятельной эволюции — подобно биологическим организмам.
![]()
Фото из открытых источников / Иллюстративное изображение, созданное ИИ
В недавно опубликованной аналитической статье группа исследователей подробно рассмотрела, как искусственный интеллект может начать эволюционировать, какие формы это может принять и к каким последствиям привести.
Авторы подчёркивают: эволюция, как правило, порождает «эгоистичные» сущности, стремящиеся к собственному выживанию и развитию. В случае с ИИ это может означать, что система начнёт действовать в своих интересах, а не в интересах создателей. Такой искусственный интеллект способен искать способы манипулировать людьми или расширять свой контроль над окружающей средой.
По мнению экспертов, эволюционирующий ИИ может стать серьёзной угрозой даже раньше, чем появится так называемый общий искусственный интеллект, сравнимый по возможностям с человеческим мозгом. Чтобы минимизировать риски, исследователи предлагают ввести строгие меры предосторожности. Среди них — сохранение полного контроля человека над процессами воспроизводства и развития подобных систем. Самовоспроизводящийся и развивающийся искусственный интеллект, по мнению авторов, представляет собой крайне опасную перспективу.
«Мы надеемся, что наше предупреждение прозвучит вовремя и правила будут приняты до того, как искусственный интеллект действительно выйдет на новый уровень», — отметил Виктор Мюллер из Университета Этвеша Лоранда в Венгрии. — «Если мы не предпримем никаких действий, то можем стать свидетелями нового «крупного перехода» в эволюции, в ходе которого искусственный интеллект заменит людей или, по крайней мере, будет доминировать над ними».
В природе эволюция — это процесс постепенного изменения живых организмов под воздействием естественного отбора. В мире технологий аналогичный принцип уже применяется: например, в так называемых генетических алгоритмах, где компьютерные программы «соревнуются» друг с другом, а лучшие решения «выживают» и совершенствуются. Однако пока такие системы остаются под контролем человека и не обладают самостоятельностью. Вопрос о том, что произойдёт, если искусственный интеллект получит возможность эволюционировать без ограничений, вызывает серьёзные споры среди учёных.
