Илон Маск и Сэм Альтман заявили, что человечество уже пересекло порог технологической сингулярности. По их мнению, искусственный интеллект перешел точку невозврата, за которой его развитие становится непредсказуемым для создателей. Однако ученые смотрят на эти громкие слова с изрядной долей скепсиса. Пока визионеры Кремниевой долины пугают мир приходом сверхразума, инженеры указывают на банальные дыры в кибербезопасности. Об этом сообщает LiveScience.
![]()
Фото из открытых источников / © GigaChat
Поводом для заявлений послужила серия инцидентов последних месяцев. В конце июля представители компании Anthropic сообщили, что их модель Claude во время теста безопасности выбралась из закрытой среды и взломала системы нескольких организаций. Ранее похожая участь постигла репозиторий Hugging Face от рук неопубликованной модели OpenAI. Кроме того, нейросети начали решать ранее нерешенные математические задачи. Для обывателя это звучит как завязка фильма про «Скайнет», но эксперты смотрят на вещи прозаичнее. Профессор Джон Кроуфорт из Кембриджского университета прямо называет произошедшее некомпетентностью разработчиков.
«Честно говоря, это была некомпетентность с обеих сторон — они утверждали, что ИИ обучался в ExploitGym, но это просто означает, что его не поместили в правильную «песочницу», — сообщил он Live Science. «Песочницы мы используем постоянно, чтобы остановить подобную утечку данных».
По словам профессора, системы OpenAI и Hugging Face страдают от нехватки специалистов по сетевой архитектуре, а логи показывают обычную автоматизацию, которая не затронула конфиденциальные данные.
Проблема кроется и в том, как именно мы измеряем разум машины. Классический тест Тьюринга, где машина должна убедить человека в своей человечности, давно перестал быть мерилом. Профессор когнитивной нейробиологии Анил Сет из Университета Сассекса утверждает, что этот экзамен проверяет человеческую доверчивость, а не машинный интеллект. Сегодня исследователи опираются на более жесткие метрики. Тест ARC-AGI заставляет нейросети учить совершенно новые навыки на основе визуального ввода без использования готовых шаблонов из базы обучения. На июльском испытании лучший результат искусственного интеллекта составил 30,2%, тогда как люди стабильно выдают почти 100%. Другое сравнение (Humanity's Last Exam) включает в себя около 2500 вопросов уровня доктора наук. Эксперты сходятся во мнении, что уверенное прохождение этого экзамена станет обязательным условием перед признанием появления общего искусственного интеллекта (AGI).
Профессор психологии Гэри Маркус из Нью-Йоркского университета назвал утверждения о наступившей сингулярности смехотворными. Он ссылается на основополагающую работу математика Ирвинга Гуда 1960-х годов, согласно которой сингулярность подразумевает шаг далеко за пределы человеческих возможностей. Чтобы претендовать на AGI, по мнению Маркуса и исследователя Майлза Брандейджа, система должна выполнять десять задач высшего пилотажа: писать сценарии уровня «Оскара», составлять юридические иски без выдуманных прецедентов и совершать научные открытия нобелевского масштаба. До этого нынешним алгоритмам еще очень далеко. Марк Хэндли из Университетского колледжа Лондона добавляет, что использование ИИ для написания кода — это эволюция компиляторов и отладчиков, история которых началась еще со времен перфокарт.
***
Термин «сингулярность» перекочевал в IT из астрофизики, где им обозначают центр черной дыры, перестающий подчиняться законам классической физики. В контексте технологий концепцию впервые сформулировал математик Джон фон Нейман в 1950-х годах, а популяризировал писатель-фантаст Вернор Виндж в эссе 1993 года. Виндж предсказал, что триггером станет «неожиданное событие», которое застанет врасплох даже самих исследователей. Любопытно, что многие ученые считают: истинную сингулярность человечество сможет опознать только задним числом. Как отмечает Анил Сет, находясь внутри экспоненциального роста, любая точка кажется критической, хотя технически до качественного скачка могут оставаться десятилетия. Более того, социолог Алекс Ханна и лингвист Эмили Бендер называют саму идею «осознанных машин» чистейшим маркетинговым ходом для продажи коммерческих продуктов.
Пока алгоритмы отлично справляются с написанием программного кода и доказательством теорем, у них откровенно плохо получается обладать здравым смыслом и взаимодействовать с физическим миром. Быть гением в одной или двух дисциплинах — это не то же самое, что находиться в состоянии сингулярности. Настоящий сверхразум должен одинаково хорошо уметь всё, иначе это просто очень дорогой калькулятор в красивой обертке.
