На фоне стремительного развития нейросетей эксперты все чаще задаются неудобным вопросом: сохраняет ли человек реальную власть над финальным выбором, если алгоритм уже успел сформировать саму повестку? Свежая публикация исследовательницы Лориен Джордан из Колледжа образования Университета Южной Флориды бьет по самому больному месту концепции «человека в контуре» (Human-in-the-loop). Об этом сообщает Phys.org.
![]()
Фото из открытых источников / © GigaChat
Традиционно считалось, что передача ИИ права на окончательную подпись — это красная линия. Пока последнее слово остается за специалистом, система безопасна. Однако работа Джордан показывает обратную картину. Искусственный интеллект давно перестал быть просто калькулятором и превратился в архитектора информационного поля. Он не просто предлагает варианты, он отсеивает тысячи альтернатив, ранжирует оставшиеся и расставляет акценты так, что у человека зачастую просто не остается иного пути.
«Один из моментов, который меня удивил... заключается в том, что мы всегда говорим о необходимости присутствия человека в процессе при использовании ИИ, но когда мы масштабируем принятие решений настолько быстро и массово, что значит нести ответственность за последующие решения, если информация, доходящая до исследователя, уже была сформирована системами за инструментом ИИ?» — отмечает Лориен Джордан.
Этот эффект особенно заметен в медицине, юриспруденции и бизнес-аналитике. Врач смотрит не на сырой снимок МРТ, а на тепловую карту, которую нейросеть посчитала подозрительной. Юрист изучает три прецедента из миллиона, которые рекомендовал чат-бот. Человек нажимает кнопку «Одобрить», искренне веря, что контролирует процесс, хотя поле его зрения было сужено алгоритмом задолго до этого момента. По сути, машина берет на себя когнитивную нагрузку, но вместе с ней незаметно приватизирует и часть критического мышления оператора.
Концепция Human-in-the-loop (HITL) изначально зародилась не в IT, а в аэрокосмической отрасли для управления дронами, где требовалось мгновенное подтверждение целей человеком во избежание сопутствующего ущерба. Сегодня этот подход стал золотым стандартом в разработке методов машинного обучения. Внедрение HITL позволяет сократить объем данных для разметки в десять раз, так как модель сама выбирает наиболее информативные примеры для проверки специалистом. Кроме того, системы Gmail Smart Reply или поисковые подсказки Google — это классические бытовые примеры архитектуры «пользователь в контуре», где выбор человека становится топливом для следующего витка обучения алгоритма.
Проблема усугубляется инфраструктурой. Как подчеркивает Джордан, современные модели вроде ChatGPT или Claude строятся на общих массивах данных и архитектуре. Если в фундаменте закралась системная предвзятость, она автоматически тиражируется во всех продуктах поверх этой базы. Это поднимает вопрос о том, какой разработчик более «этичен», бессмысленным, пока не решен вопрос прозрачности самих вычислительных платформ.
Пока индустрия вкладывает миллиарды в инфраструктуру доступа к нейросетям, покупая сервисы-посредники вроде OpenRouter, этический контур безопасности остается самым слабым звеном. Мы научили машины думать быстрее нас. Теперь нам предстоит понять, как сохранить право на собственную ошибку.
