Close
04 декабря 2023, Понедельник

Искусственный интеллект научился копировать любые голоса для озвучки текста

03.02.2023 Разместил: Редакция ESOREITER / Источник: 3DNEWS.RU 1359

В Сети тут же появились непристойные дипфейки с голосами знаменитостей.

Искусственный интеллект научился копировать любые голоса для озвучки текстаФото из открытых источников

Несколько дней назад стартап ElevenLabs представил бета-версию платформы для создания синтетических голосов-клонов реальных людей для озвучивания текстов. Буквально через несколько дней в Сети появились дипфейки голосов знаменитостей, озвучивающих крайне сомнительные тексты. По словам компании, отмечено «увеличивающееся число случаев злоупотребления клонированием голосов» — компания уже работает над решением проблемы с помощью введения дополнительных мер защиты.

Что имелось в виду под злоупотреблением, в компании не уточнили, но уже известно, что на интернет-форумах появились аудиозаписи с голосами знаменитостей, содержащие высказывания неприемлемого содержания.

Пока неизвестно, все ли материалы созданы с использованием технологии ElevenLabs, но значительная коллекция голосовых файлов содержит ссылку именно на платформу компании. Впрочем, ничего удивительно в этом нет, поскольку возникновение общедоступных систем машинного обучения привело к появлению многочисленных дипфейков различного рода.

Сейчас ElevenLabs собирает обратную связь для предотвращения злоупотреблений технологией. На данный момент компания не придумала ничего необычного кроме добавления дополнительных мер верификации аккаунтов для обеспечения доступа к клонированию голосов.

В числе идей: ввод платёжной информации или данных удостоверений личности. Дополнительно рассматривается верификация прав на использование голоса, который пользователи намерены клонировать, например, будет предложено загрузить образец с чтением предложенного текста. Наконец, компания рассматривает возможность полностью отказаться от инструмента Voice Lab и заставить проходить верификацию голосов в ручном режиме. Пока же пользователей призвали поделиться идеями с разработчиками сервиса.

Известно, что в первой половине января схожее решение представила Microsoft. Её инструмент VALL-E тоже позволяет преобразовать текст в речь, использовав в качестве образца всего 3 секунды записи голоса любого человека.

‹ Назад
Вперед ›
Самое популярное
Создан двигатель, которому не нужно топливо
11.09.2014 7986

Машина, работающая без топлива с точки зрения науки такая же химера, как «вечный двигатель». Любой грамотный физик, скажет, что создать такую машину просто невозможно и подтвердит свои слова цитированием десятка научных законов и сотней формул. Однако такой двигатель создан. Он работает!

Таинственная беременность без секса: женщина рассказала о невозможном и потребовала развода
29.06.2023 8909
Пожилая женщина утверждает, что 50 лет живет на одной воде и соках
01.12.2023 724
Ученые выяснили, что находится в таинственной реке газообразного водорода, текущей по окраинам Млечного Пути
04.12.2023 104
Живые камни - трованты
08.06.2014 5384