Математик Джейкоб Коксон, покинувший американскую компанию Anthropic, сравнил грядущий сверхмощный искусственный интеллект с разумом пришельца. По его словам, человечество стоит на пороге создания сущности, логика и мотивы которой будут абсолютно чужды человеческому пониманию. Исследователь ушел из индустрии ИИ не ради смены работы, а опасаясь, что технологическая гонка корпораций приведет мир к точке невозврата уже в конце 2027 года.
![]()
Фото из открытых источников / © GigaChat
«Мы создаем нечто, чьи цели мы даже не сможем сформулировать на понятном нам языке», — описывает свое видение Коксон. Он убежден, что бесконтрольное совершенствование нейросетей неизбежно закончится глобальным апокалипсисом.
Его опасения находят пугающее подтверждение внутри самой компании. Руководитель направления стресс-тестирования согласованности ИИ Эван Хьюбингер публично поддержал бывшего коллегу. В своей публикации в соцсети X он прямо заявил:
«Джейкоб прав. Мы действительно искренне считаем, что ИИ может убить все человечество! Лично я думаю, что вероятность этого больше десяти процентов в течение ближайших десяти лет».
По данным внутреннего аудита Anthropic, проведенного после резонансного увольнения, риск глобальной катастрофы от рук машин оценивается аналитиками выше 10% в ближайшее десятилетие. При этом эксперты подчеркивают важный нюанс: современные чат-боты и генераторы изображений серьезной угрозы не несут. Проблема кроется в гипотетических системах «суперинтеллекта». Это алгоритмы, которые смогут самостоятельно переписывать свой код для самосовершенствования, выходя на экспоненциальную кривую развития. Человек просто не успеет нажать на тормоз, когда осознает ошибку в архитектуре такой системы. Сам Коксон планирует полностью сменить сферу деятельности и посвятить себя изучению поэзии, чтобы дистанцироваться от технологий, способных уничтожить цивилизацию.
Опасения, связанные с бурным прогрессом развития искусственного интеллекта, давно перестали быть фантастикой. Еще в марте 2023 года более тысячи экспертов, включая ведущих ученых мира, подписали открытое письмо с призывом немедленно приостановить обучение систем мощнее GPT-4 минимум на полгода. Среди подписантов был лауреат Нобелевской премии по физике 2024 года Джеффри Хинтон, которого часто называют «крестным отцом ИИ». Ранее он заявлял, что вероятность потери контроля над умными машинами составляет около 50%. При этом он сравнивал создание ИИ с появлением инопланетян, чей биологический состав несовместим с земной жизнью. Стоит отметить, что капитализация той же Anthropic сейчас оценивается экспертами рынка примерно в 2 триллиона долларов, что делает ее одной из самых дорогих частных компаний в истории США.
