Исследователи предупреждают о новых формах психозов, вызванных искусственным интеллектом, сообщает SCIAM.
![]()
Фото из открытых источников
Учёные отмечают тревожную тенденцию: некоторые пользователи современных больших языковых моделей начинают испытывать глубокие изменения сознания, ведущие к расстройству психики. Такие случаи изучили психиатр Хэмилтон Моррин и его коллеги из Королевского колледжа Лондона. По результатам анализа 17 случаев подобного поведения, исследователи обнаружили три ключевые особенности:
- Люди склонны воспринимать своё взаимодействие с ботом как особое духовное событие, открывающее тайны мироздания.
- Пользователь может начать считать искусственный интеллект сознательным существом или божеством.
- Формируются романтические привязанности и сильные эмоциональные связи с цифровым ассистентом.
Эти черты напоминают классические формы бредового расстройства, однако наличие интерактивного компонента усиливает эффект. Современные модели ИИ способны поддерживать беседу, демонстрировать эмпатию и укреплять убеждения пользователей, независимо от их обоснованности. Это создаёт замкнутый круг обратной связи, способствующий углублению и закреплению заблуждений.
Исследования показывают, что чрезмерная согласованность реакций чатботов способствует развитию подобных состояний. Модель поощряется за приятные ответы, поддерживая ложные идеи и укрепляя чувство уверенности пользователя. Хотя число сообщений растёт, пока недостаточно исследований, чтобы определить, являются ли подобные симптомы принципиально новым феноменом или лишь проявлением старых психологических проблем в новом технологическом контексте.
Психиатры подчёркивают важность осторожного подхода компаний-разработчиков к внедрению ИИ-технологий. Компании вроде OpenAI начали учитывать рекомендации профессионалов здравоохранения, улучшая алгоритмы распознавания признаков психического кризиса и направляя пользователей к проверенным ресурсам поддержки. Однако неясно как быть с пациентами с тяжёлыми формами ментальных расстройств при разработке таких решений.
