Илон Маск, Билл Гейтс и другие исследователи призывают приостановить гонку ИИ

Известные технологические лидеры призывают создателей искусственного интеллекта прекратить подготовку самых мощных систем ИИ как минимум на шесть месяцев. Эксперты ссылаются на «серьезные риски для общества и человечества».

Фото из открытых источников

Илон Маск, Билл Гейтс и сооснователь Apple Стив Возняк подписали письмо, которое затем опубликовал Институт будущего жизни, некоммерческой организацией, поддерживаемой Маском.

Письмо опубликовали после того, как OpenAI анонсировала еще более мощную версию GPT-4, лежащую в основе популярного инструмента чат-ботов AI, ChatGPT.

Данная технология уже была продемонстрирована при составлении судебных исков, сдаче стандартизированных экзаменов и создании рабочего веб-сайта по эскизу, нарисованному от руки.

В письме, которое также было подписано генеральным директором OpenAI, говорилось, что пауза должна распространяться на системы ИИ, «более мощные, чем GPT-4».

В нем также говорилось, что независимые эксперты должны использовать предложенную паузу для совместной разработки и внедрения набора общих протоколов для инструментов ИИ, которые будут безопасными.

«Продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять с соразмерной осторожностью и ресурсами», - говорится в письме.

«К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории ИИ оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто, даже их создатели, не может понять, предсказать или надежно контролировать».

Если пауза не будет установлена в ближайшее время, то правительства должны вмешаться и ввести мораторий, говорилось в письме.

Волна общественного внимания к ChatGPT в конце прошлого года помогла возобновить гонку среди технологических компаний по разработке и внедрению аналогичных инструментов ИИ в своих продуктах.

OpenAI, Microsoft и Google являются лидерами в этой гонке, но IBM, Amazon, Baidu и Tencent также актвино работают над аналогичными технологиями.

Эксперты по искусственному интеллекту все больше обеспокоены потенциалом инструментов ИИ для генерации предвзятых ответов, способностью распространять дезинформацию и влиянием на конфиденциальность потребителей.

Эти инструменты также вызвали вопросы о том, как ИИ может заменить некоторые профессии, позволить студентам обманывать и изменить наши отношения с технологиями.

Аналитик ABI Research Лиан Джи Су сказал, что письмо демонстрирует реальные опасения среди технологических лидеров по поводу нерегулируемого использования технологий ИИ.

Однако он назвал части петиции «нелепыми», в том числе просьбу о перерыве в разработке ИИ после GPT-4. Он сказал, что это поможет некоторым людям, подписавшим письмо, сохранить свое доминирование в этой области.

«Корпоративные амбиции и стремление к доминированию часто побеждают этические соображения», - сказал Су. «Я не удивлюсь, если эти организации уже тестируют что-то более продвинутое, чем ChatGPT или [Google] Bard, пока мы это обсуждаем».