Инструменты генеративного искусственного интеллекта (ИИ) становятся все более распространенными, что вызывает беспокойство у экспертов по поводу растущей дезинформации и фейковых новостей.
![]()
Фото из открытых источников
ChatGPT, Gemini и другие генераторы контента упрощают создание убедительных, но вводящих в заблуждение текстов, изображений, голоса и видео. Злоумышленники могут использовать эти инструменты для автоматизации распространения дезинформации.
Исследования показали рост «потенциально созданного искусственным интеллектом контента» в поисковых системах, что затрудняет определение подлинности информации. Кроме того, NewsGuard выявил 725 ненадежных веб-сайтов, которые публикуют контент, созданный искусственным интеллектом, практически без человеческого контроля.
Google экспериментирует с инструментом искусственного интеллекта, который позволяет издателям обобщать статьи из внешних источников. Это размывает традиционные границы надежности онлайн-контента.
Правительства сталкиваются с дилеммой: вмешиваться или нет. Например, в Австралии были предприняты шаги по регулированию отображения и модерации новостей и контента, но масштаб проблемы и сложность мер предосторожности делают это сложной задачей.
Генеративный ИИ также способен создавать мультимедийный контент, что приводит к увеличению случаев глубокой подделки. Платформы социальных сетей пытаются решить эту проблему, автоматически идентифицируя и помечая контент, сгенерированный искусственным интеллектом.
Для защиты от рисков, связанных с генеративным искусственным интеллектом, эксперты предлагают:
- Регулирование: Устанавливать четкие правила, избегая туманных целей и подходов «доверяйте нам».
- Медиаграмотность: Обучать людей распознавать дезинформацию, созданную искусственным интеллектом.
- Технология безопасности: Интегрировать безопасность по замыслу в разработку продуктов.
Несмотря на растущее количество контента, созданного искусственным интеллектом, люди склонны недооценивать риск поверить в фейковые новости. Поиск заслуживающего доверия контента не должен включать в себя просеивание сгенерированного искусственным интеллектом контента.
