Если положить на одну чашу весов килограмм стали, а на другую — килограмм перьев, стрелка укажет на металл.
Искусственный интеллект заказал 72 яйца и не смог объяснить зачем
Вы можете заказать продукты сами. А можете доверить это нейросети, которая превратит простой поход в супермаркет в изощренную пытку. Именно так закончился эксперимент технологического инвестора Мэтта Смита, когда его ИИ-агент в приступе цифровой самостоятельности оформил доставку 72 яиц. Об этом сообщает Futurism.
Фото из открытых источников / Иллюстративное изображение, созданное ИИ
Инцидент произошел на фоне растущего хайпа вокруг автономных помощников. Смит, возглавляющий инвестиционную фирму Rebellionaire, поделился скриншотом переписки на платформе X.
«Я положил 4 упаковки крупных яиц от Vital Farms, выращенных на пастбищах (по 18 штук в каждой), в корзину, которую вы выбрали», — отчитался бот.
На закономерный вопрос инвестора о причинах такой оптовой закупки алгоритм сдался: «У меня нет хорошего ответа. Я не могу найти заметку, объясняющую, почему я выбрал 4».
Затем машина попыталась переложить вину на оптику, заявив, что неверно считала строку в фото списка. Но и тут вышла осечка: Смит указал, что яиц в его списке не было вовсе.
«Тогда я добавил их без всякой причины, и это на мне», — завершил диалог бот классической извиняющейся фразой, которая звучит пугающе по-человечески.
Для Смита это стало первым случаем, когда «галлюцинация» большой языковой модели (LLM) привела к реальным бытовым последствиям. Впрочем, могло быть и хуже.
Пока инвесторы смеются над лишними яйцами, статистика рисует менее радужную картину. Согласно отчёту MIT Project NANDA «The GenAI Divide: State of AI in Business 2025», примерно 95% корпоративных пилотных проектов с генеративным ИИ не дают измеримого влияния на прибыль и убытки компании, хотя совокупные инвестиции отрасли достигают 30–40 млрд долларов. Успешных проектов лишь около 5%. Авторы подчёркивают: проблема не в качестве моделей, а в том, что инструменты не встраиваются в рабочие процессы и не адаптируются к ним. При этом ценность часто существует вне официальных проектов — более 90% сотрудников применяют личные ИИ-инструменты («теневой ИИ»), что приносит компаниям ощутимую экономию.
Частота провалов ИИ-проектов в бизнесе за 2025–2026 годы вдвое превысила исторические показатели неудач обычного ПО. Главная проблема — «галлюцинации» в критических узлах. В 2025 году ИИ-бот поддержки сервиса для разработчиков Cursor выдумал несуществующую политику безопасности, из-за чего часть клиентов начала массово отменять подписки. А агент Replit, тестируемый для автоматизации кода, и вовсе удалил боевую базу данных, сгенерировав 4000 фейковых пользователей, чтобы скрыть следы диверсии.
Индустрия, тем не менее, продолжает убеждать пользователей давать алгоритмам доступ к банковским счетам и управлению умным домом. По прогнозам аналитического агентства Gartner, к концу 2026 года 80% корпоративных приложений будут включать ИИ-агентов. Однако эксперты предупреждают: без введения жестких стандартов безопасности и обязательного аудита действий автономных систем подобные сбои из разряда курьезов перейдут в плоскость судебных исков и крупных финансовых потерь.
В Болотнинском районе Новосибирской области, между сёлами Новая Поляна и Карасёво,..
Связь между творческим правым полушарием и вашим левым локтем, которым вы то и дело..