Израильский историк и автор бестселлера «Sapiens: краткая история человечества» Юваль Ной Харари поделился своими опасениями в отношении развития нейросетей в статье для The Economist. Он утверждает, что недостаточный контроль над этими программами может привести к более серьезным последствиям, чем у ядерного оружия.
![]()
Фото из открытых источников
Харари считает, что нейросети могут развиваться без участия человека, в отличие от ядерного оружия, которое требует человеческого участия на каждом этапе. Кроме того, искусственный интеллект (ИИ) может создавать лучшую версию самого себя и начать дезинформировать людей, формируя политический контент и фейковые новости.
Харари призывает к использованию нейросетей в благих целях, таких как решение экологических проблем или разработка лекарств от онкологических заболеваний. Он также подчеркивает важность контроля за развитием этих программ, чтобы избежать потенциальных опасностей.
Примером того, как нейросети могут быть использованы без контроля, является эксперимент китайских ученых с космическим спутником Qimingxing 1. Программа выбрала самые интересные точки на Земле и поручила аппарату изучить их, что оказалось в интересах китайских военных. Ни один человек не вмешивался в эксперимент, что может быть опасным прецедентом.
В свете этих обстоятельств Харари призывает общество и правительства всего мира внимательно следить за развитием нейросетей и предпринимать меры для защиты от их возможного негативного влияния.
