Генеративный ИИ усугубляет кризис дезинформации

Инструменты генеративного искусственного интеллекта (ИИ) становятся все более распространенными, что вызывает беспокойство у экспертов по поводу растущей дезинформации и фейковых новостей.

Фото из открытых источников

ChatGPT, Gemini и другие генераторы контента упрощают создание убедительных, но вводящих в заблуждение текстов, изображений, голоса и видео. Злоумышленники могут использовать эти инструменты для автоматизации распространения дезинформации.

Исследования показали рост «потенциально созданного искусственным интеллектом контента» в поисковых системах, что затрудняет определение подлинности информации. Кроме того, NewsGuard выявил 725 ненадежных веб-сайтов, которые публикуют контент, созданный искусственным интеллектом, практически без человеческого контроля.

Google экспериментирует с инструментом искусственного интеллекта, который позволяет издателям обобщать статьи из внешних источников. Это размывает традиционные границы надежности онлайн-контента.

Правительства сталкиваются с дилеммой: вмешиваться или нет. Например, в Австралии были предприняты шаги по регулированию отображения и модерации новостей и контента, но масштаб проблемы и сложность мер предосторожности делают это сложной задачей.

Генеративный ИИ также способен создавать мультимедийный контент, что приводит к увеличению случаев глубокой подделки. Платформы социальных сетей пытаются решить эту проблему, автоматически идентифицируя и помечая контент, сгенерированный искусственным интеллектом.

Для защиты от рисков, связанных с генеративным искусственным интеллектом, эксперты предлагают:

• Регулирование: Устанавливать четкие правила, избегая туманных целей и подходов «доверяйте нам».
• Медиаграмотность: Обучать людей распознавать дезинформацию, созданную искусственным интеллектом.
• Технология безопасности: Интегрировать безопасность по замыслу в разработку продуктов.

Несмотря на растущее количество контента, созданного искусственным интеллектом, люди склонны недооценивать риск поверить в фейковые новости. Поиск заслуживающего доверия контента не должен включать в себя просеивание сгенерированного искусственным интеллектом контента.