Эксперты предупредили о потенциальном воздействии передовых систем ИИ, которые могут генерировать реалистичные поддельные новости на беспрецедентном уровне по мере приближения президентских выборов в США в 2024 году.
![]()
Фото из открытых источников
«Трудно представить, как дезинформация, генерируемая ИИ, не станет главной силой на следующих выборах», - говорит эксперт.
Согласно отчету журнала Fortune, программное обеспечение для клонирования голоса от ElevenLabs и фотореалистичная фотография от OpenAI DALL-E 2, Stable Diffusion и Midjourney потенциально могут быть использованы для дезинформации.
«Мы должны быть до смерти напуганы угрозами, которые создают для нас огромные языковые модели, лежащие в основе технологии», - сказал эксперт в области ИИ, профессор когнитивных наук Гэри Маркус из Нью-Йоркского университета. «Трудно представить, как дезинформация, созданная ИИ, не станет главной силой на следующих выборах».
Хотя технология создания фильмов из текстовых подсказок все еще находится в зачаточном состоянии, специалисты по глубокой подделке могут создавать убедительные поддельные видеоролики.
Эксперт Крис Мезерол из Института Брукингса предупреждает, что голосовые клоны могут сыграть значительную роль на выборах 2024 года, позволяя всплывать аудиоклипам в решающие моменты выборов, выдавая себя за запись того, как кандидат говорит что-то скандальное.
Некоторые исследователи считают, что эти технологии могут определить, когда часть материала содержит фактическое утверждение, и оценить вероятность наличия дезинформации, основываясь на чувствах, которые она передает.
Эти технологии могут подорвать доверие и запутать людей, заставляя их сомневаться в точности информации, предоставляемой экспертами и социальными связями, считают эксперты.
Сценарий потребует дальнейших исследований для борьбы с распространением дезинформации, генерируемой машинами.
