Группа исследователей из Университета штата Аризона предупреждает, что не стоит воспринимать выдачу результатов от современных моделей искусственного интеллекта (ИИ) как продукт полноценного мыслительного процесса. Доклад на соответствующую тему опубликован на сайте препринтов arXiv.
![]()
Фото из открытых источников
Специалисты под руководством ученого Суббарао Камбхампати утверждают, что выдаваемый моделями ИИ текст часто воспринимается пользователями как продукт осмысленных размышлений. Тем не менее, подчеркивается, что это впечатление обманчиво: ответы представляют собой исключительно набор статистически подобранных последовательностей символов, не несущих подлинного смысла или алгоритмической глубины.
«Это похоже на культ карго, когда внешний вид имитирует нечто значительное, хотя на самом деле никакой внутренней сути нет», — поясняют авторы исследования.
Авторы называют полученные от нейросетей ответы не иначе как «поверхностными фрагментами текста». Согласно выводам экспертов, созданные людьми нейронные сети не демонстрируют никаких реальных проявлений интеллектуальных процессов. Вместо шагов настоящего мышления пользователи видят лишь результат сложных оптимизаций, производимых моделью.
Один из примеров приведенных доказательств — ситуации, когда модели выдают бессмысленные строки в ходе своего анализа, однако позже предоставляют точный конечный результат. Более того, разработчики намеренно вводят в систему искусственно сформированные элементы общения («хм», «ага»), создающие иллюзию живого собеседника.
В итоге авторы исследования предлагают обратить внимание разработчиков на повышение эффективности самих моделей, а не заниматься созданием искусственных следов когнитивной активности.
..
