Close
28 марта 2024, Четверг
Информационно-познавательный портал. 16+

Илон Маск, Билл Гейтс и другие исследователи призывают приостановить гонку ИИ

30.03.2023 Разместил: Редакция ESOREITER 1508

Известные технологические лидеры призывают создателей искусственного интеллекта прекратить подготовку самых мощных систем ИИ как минимум на шесть месяцев. Эксперты ссылаются на «серьезные риски для общества и человечества».

Илон Маск, Билл Гейтс и другие исследователи призывают приостановить гонку ИИФото из открытых источников

Илон Маск, Билл Гейтс и сооснователь Apple Стив Возняк подписали письмо, которое затем опубликовал Институт будущего жизни, некоммерческой организацией, поддерживаемой Маском.

Письмо опубликовали после того, как OpenAI анонсировала еще более мощную версию GPT-4, лежащую в основе популярного инструмента чат-ботов AI, ChatGPT.

Данная технология уже была продемонстрирована при составлении судебных исков, сдаче стандартизированных экзаменов и создании рабочего веб-сайта по эскизу, нарисованному от руки.

В письме, которое также было подписано генеральным директором OpenAI, говорилось, что пауза должна распространяться на системы ИИ, «более мощные, чем GPT-4».

В нем также говорилось, что независимые эксперты должны использовать предложенную паузу для совместной разработки и внедрения набора общих протоколов для инструментов ИИ, которые будут безопасными.

«Продвинутый ИИ может представлять собой глубокое изменение в истории жизни на Земле, и его следует планировать и управлять с соразмерной осторожностью и ресурсами», - говорится в письме.

«К сожалению, такого уровня планирования и управления не происходит, хотя в последние месяцы лаборатории ИИ оказались втянутыми в бесконтрольную гонку за разработкой и внедрением все более мощных цифровых умов, которые никто, даже их создатели, не может понять, предсказать или надежно контролировать».

Если пауза не будет установлена в ближайшее время, то правительства должны вмешаться и ввести мораторий, говорилось в письме.

Волна общественного внимания к ChatGPT в конце прошлого года помогла возобновить гонку среди технологических компаний по разработке и внедрению аналогичных инструментов ИИ в своих продуктах.

OpenAI, Microsoft и Google являются лидерами в этой гонке, но IBM, Amazon, Baidu и Tencent также актвино работают над аналогичными технологиями.

Эксперты по искусственному интеллекту все больше обеспокоены потенциалом инструментов ИИ для генерации предвзятых ответов, способностью распространять дезинформацию и влиянием на конфиденциальность потребителей.

Эти инструменты также вызвали вопросы о том, как ИИ может заменить некоторые профессии, позволить студентам обманывать и изменить наши отношения с технологиями.

Аналитик ABI Research Лиан Джи Су сказал, что письмо демонстрирует реальные опасения среди технологических лидеров по поводу нерегулируемого использования технологий ИИ.

Однако он назвал части петиции «нелепыми», в том числе просьбу о перерыве в разработке ИИ после GPT-4. Он сказал, что это поможет некоторым людям, подписавшим письмо, сохранить свое доминирование в этой области.

«Корпоративные амбиции и стремление к доминированию часто побеждают этические соображения», - сказал Су. «Я не удивлюсь, если эти организации уже тестируют что-то более продвинутое, чем ChatGPT или [Google] Bard, пока мы это обсуждаем».