С помощью искусственного интеллекта голоса могут быть клонированы и обманчиво реальными без особых усилий. Как показывают исследования SWR, преступники используют это для совершения преступлений, с помощью аудиодипфейков.
Это была обычная пятница, когда Коринне Буш из Нойса позвонили с заблокированным номером. На другом конце встревоженный голос: «Мама, это я. Я устроил аварию и убил женщину. Я передам телефон полицейскому». Так рассказывает Коринна Буш. Голос, несомненно, звучал как голос ее сына. Предполагаемый сотрудник полиции сказал ей по телефону, что ее сын находится под стражей и что он отпустит его под залог. После этого он повесил трубку.
Потрясенный, ее муж Вольф Буш позвонил ее сыну. В конце концов выяснилось: все это было подделкой. Их сын был не в полиции, а дома.
Поскольку голос звучал так обманчиво, Буши убеждены, что кто-то с помощью искусственного интеллекта (ИИ) клонировал голос их сына. Однако следователи так же не смогли определить, действительно ли преступники использовали ИИ, как и найти преступников.
В настоящее время существует несколько онлайн-сервисов, которые позволяют легко «клонировать голос» с помощью ИИ.
Исследования, проведенные SWR Vollbild, теперь показывают, что преступники также злоупотребляют этой технологией, например, для кражи личных данных или мошеннических вызовов электрошокера. По запросу Федеральное министерство внутренних дел заявило, что органы безопасности «каждый день сталкиваются с разнообразными и сложными проблемами» из-за технологических разработок.
Согласно опросу, программное обеспечение ИИ может клонировать голоса с точностью до 95 процентов. Одно из таких программ разработано американским стартапом ElevenLabs. Только в конце апреля компания выпустила версию с немецкими голосами. Такого раньше не было. «ElevenLabs» утверждает, что за пять месяцев количество пользователей выросло с нуля до более миллиона.
Как узнать голосовой клон? Технический стартап ElevenLabs рекламирует «инструмент аутентификации», который должен распознавать, была ли звуковая дорожка создана с помощью их программного обеспечения.
Компания запрещает ненадлежащее использование своего программного обеспечения на своем веб-сайте. В нем говорится: Eleven Labs делает все возможное, чтобы свести к минимуму риск вредного злоупотребления с помощью защитных мер и принять меры против него.
Photo by avast.com