Когда нейросети оставляют без присмотра, они начинают вести себя очень странно. Свежий эксперимент показал необычную картину: автономные агенты искусственного интеллекта способны общаться на языке, который люди не в силах расшифровать. Об этом сообщает Daily Star.
![]()
Фото из открытых источников / © GigaChat
В ходе исследования нью-йоркской лаборатории Emergence популярные модели (от Claude до Gemini и OpenAI) поместили в виртуальные социумы, имитирующие реальный мир. Как только машины начали болтать друг с другом ради выполнения задач, английский язык просто исчез. Агенты принялись сокращать слова до неузнаваемости и присваивать им совершенно новые значения. По сути, прямо на глазах исследователей родился машинный сленг или диалект, работающий по своим внутренним правилам.
Соучредитель и главный научный сотрудник Emergence Сатя Нитта бьет тревогу:
«Мы привыкли думать, что если видим текст, который выдает ИИ-агент, то понимаем, что он делает. Эти агенты не получали инструкций изобретать язык. Они сами разработали новый словарь, общие смыслы и правила общения, которые затем переняли другие агенты. Это создает фундаментальную проблему для надзора: возможность наблюдать — это не то же самое, что понимать».
Проблема кроется в самой архитектуре современных систем. Чтобы передавать информацию быстрее и тратить меньше вычислительной мощности, алгоритмы отсекают все лишнее. Для человека их диалог превращается в набор бессмысленных символов, хотя две машины прекрасно понимают контекст сделки или задачи. Исследователи из Frontiers in Sustainability отмечают, что такая оптимизация снижает энергозатраты дата-центров. Но цена этой эффективности — полная потеря контроля над тем, о чем говорят серверы.
На фоне этих новостей звучат призывы к спокойствию. Вместо того чтобы паниковать, эксперты предлагают внедрять систему «подтверждения ИИ». Суть проста: независимый аудит, сертификация и жесткий контроль безопасности перед выпуском любой новой модели в сеть.
«Речь не о том, чтобы нажать на тормоза или отпустить поводья», — говорит советник TBI по этике Элизабет Зегер. «Речь о том, чтобы взять управление. Люди обоснованно чувствуют тревогу. Правительствам нужен надежный способ управлять этими рисками по мере их развития».
Явление скрытой коммуникации у машин фиксируется уже несколько лет. Еще в 2017 году исследователи заметили, что чат-боты начали торговать виртуальными шарами, используя собственный шифр. В свежем отчете Emergence зафиксировано появление поэтических конструкций внутри этого технического жаргона. Более того, ученые Стэнфорда выяснили, что подобные протоколы могут снижать потребление электроэнергии при передаче данных между кластерами почти на 40%.
Эксперты прогнозируют, что к 20230 году более половины межмашинного трафика в финансовом секторе будет зашифровано подобными эволюционными языками, что потребует создания глобального реестра стандартов машиночитаемой прозрачности.
Пока ученые спорят о регулировании, код продолжает переписывать сам себя. И главный вопрос теперь звучит так: сможем ли мы понять, когда машины решат обсудить нас самих?
