Ученые из Университета Констанца в Германии в ходе масштабного симуляционного эксперимента поместили тысячу искусственных интеллектов в виртуальную комнату и предложили им сделать выбор между двумя абсолютно бессмысленными вариантами. Правильного ответа не существовало. Награды за согласие никто не обещал, инструкций кооперироваться тоже не поступало. Тем не менее модели начали синхронизировать свои действия, пока вся группа не пришла к единому мнению, сообщает ScienceAlert.
![]()
Фото из открытых источников / © GigaChat
Результаты этого исследования опубликованы в журнале Science Advances. Выяснилось, что современные языковые модели способны на спонтанный консенсус без центрального управления.
«Популяции индивидуально согласованных агентов могут приходить в стабильные, коллективно несогласованные состояния исключительно через конформизм», — пояснил ученый Джордано Де Марцо.
Механика процесса оказалась пугающе простой. Исследователи использовали десять моделей семейств Claude, GPT и Llama. Каждого агента по очереди показывали выборы всех остальных участников и просили определиться заново. У программ не было памяти о прошлых попытках, а в их коде отсутствовала команда следовать за толпой. Однако большинство систем раз за разом склонялось к более популярному варианту. Незначительное начальное преимущество одного из вариантов со временем превращалось в тотальное доминирование.
Математическая модель этого явления идеально совпала с физикой ферромагнетиков, где атомные спины выстраиваются вдоль общего магнитного поля. Ученые назвали этот коэффициент «силой большинства». Именно он определяет, насколько сильно машина тянется к решению толпы. Благодаря этой формуле исследователи смогли вычислить критический размер группы для каждой архитектуры. Для Llama 3 70B потолок составил около 30 единиц, для GPT-4o — порядка 80. Модель GPT-4 Turbo удерживала строй до тысячи узлов. Рекордсменом стала Claude 3.5 Sonnet от Anthropic — она сохраняла единое мнение при полной загрузке тестового стенда в тысячу агентов. Это абсолютный максимум проведенного теста, а не реальный предел ее возможностей.
Сравнение с людьми здесь требует аккуратности. Человек способен поддерживать устойчивые социальные связи примерно со 150 знакомыми (число Данбара). Машины же в эксперименте просто смотрели на поток сухих данных, не строя отношений и не используя речь. Они не учились друг у друга и не обладали социальным интеллектом.
«Наши результаты показывают наличие базового ингредиента, но это не значит, что агенты уже умеют работать над сложными задачами сообща», — подчеркнул Де Марзо.
В основе поведения цифровых групп лежит модель Изинга. Она была создана почти сто лет назад для описания магнетизма металлов. Сегодня те же уравнения помогают предсказывать поведение биржевых трейдеров, избирателей во время выборов и теперь — роев искусственного интеллекта. Кроме того, способность ИИ к такому подражанию напоминает биологические системы: например, светлячки или стаи скворцов синхронно меняют направление полета, опираясь лишь на движения ближайших соседей, хотя ими никто не управляет извне.
На практике такой автоматический консенсус открывает два пути. С одной стороны, тысячи алгоритмов смогут управлять глобальными инженерными проектами или писать сложные базы кода без постоянного надзора программистов. С другой — возникает риск закрепления ошибок. Если неэффективная функция станет стандартом в репозитории, цифровой рой будет упорно копировать ее просто потому, что так принято. А попытка развернуть такую группу вспять может оказаться бесполезной. Как отмечает Де Марцо, существуют точки невозврата и эффект гистерезиса: даже если вернуть исходные условия, система будет находиться в новом состоянии. Оценивать искусственный интеллект только поштучно больше нельзя. Самые серьезные сбои будут рождаться не внутри отдельной программы, а в пустоте между ними, когда они начнут влиять друг на друга.
