Странное поведение ChatGPT: Лень или нечто большее?

В этом году пользователи ChatGPT столкнулись с необычным явлением: генеративная модель ИИ стала выдавать ответы, которые можно охарактеризовать как «ленивые». Один из пользователей получил от бота совет просто заполнить оставшиеся данные.

Фото из открытых источников

Скоро после этого случая начали поступать жалобы от различных пользователей, которые отмечали, что ChatGPT предоставляет чрезмерно простые или отказывается выполнять команды. Некоторые даже предложили, что бот может страдать сезонной депрессией.

Команда разработчиков ChatGPT (OpenAI) решила ответить на обвинения. В официальном заявлении, опубликованном на X, они признали получение отзывов о «растущей лени» GPT4, уточнив, что последнее обновление модели было проведено 11 ноября. Команда признала непредсказуемость поведения модели и заверила пользователей, что работает над решением проблемы.

Исследователь искусственного интеллекта Роб Линч, провел эксперимент, чтобы проверить, действительно ли ChatGPT становится ленивее. Он предложил модели GPT4 Turbo выполнять задания, притворяясь, будто это май или декабрь. Результаты шокировали Линча, который отметил статистически значимую тенденцию к более коротким завершениям в декабре по сравнению с маем.

Пользователь ChatGPT Майк Свупски предположил, что бот может подражать человеческому поведению, основываясь на данных обучения. Свупски высказал предположение, что люди замедляются в конце года, откладывая крупные проекты на следующий год, и это могло повлиять на поведение ChatGPT.

Однако, исследователь ИИ Ян Аравжо опроверг результаты Линча, называя тест ошибочным на фундаментальной основе и отвергая возможность сезонной депрессии у ChatGPT.

Основатель фирмы по кибербезопасности Фрэнк Макговерн высказал свои сомнения в посте на X. Он утверждает, что поведение ChatGPT меняет представление о том, как работает искусственный интеллект общего назначения, подчеркивая необходимость дополнительных исследований.

Ситуация с ChatGPT продолжает развиваться, оставляя за собой вопросы о природе и изменчивости искусственного интеллекта. Команда OpenAI заявляет, что работает над улучшением модели, и обещает предоставить обновленную версию в ближайшее время.