«Технология клонирования голоса может стать реальной угрозой для систем голосовой биометрии»

«Технология клонирования голоса может стать реальной угрозой для систем голосовой биометрии»

28.08.2020
В каких храмах Самары можно окунуться в купели на Крещение

В каких храмах Самары можно окунуться в купели на Крещение

18.01.2021
В Самарской области обновилась статистика по новым случаям заболевания коронавирусом

В Самарской области обновилась статистика по новым случаям заболевания коронавирусом

18.01.2021
Прокуратура вынесла предостережение исполняющему обязанности мэра Самары

Прокуратура вынесла предостережение исполняющему обязанности мэра Самары

18.01.2021
В Самаре приступили к строительству второй очереди школы на пятой просеке

В Самаре приступили к строительству второй очереди школы на пятой просеке

18.01.2021
Министерство образования и науки Самарской области разъяснило, как будут учиться школьники

Министерство образования и науки Самарской области разъяснило, как будут учиться школьники

18.01.2021
В Самарской области готовятся приступить к вакцинации против коронавируса

Цитата дня: «Иммунитет после COVID-19 держится 3-5 месяцев»

17.01.2021
В Самаре на Крещение оборудуют одну купель, остальные ликвидируют

Цифра дня: каждый 8 россиянин планирует принять участие в крещенских морозах

17.01.2021
В Самарской области стала снижаться смертность от коронавируса

В Самарской области стала снижаться смертность от коронавируса

17.01.2021
В Самаре выбрали вариант скульптуры «Вальс» для Струковского сада

В Самаре выбрали вариант скульптуры «Вальс» для Струковского сада

17.01.2021
Цифра дня: за минувшие сутки в РФ зафиксировано 4774 новых больных COVID-19

Цитата дня: «Снижение титров антител через несколько месяцев после перенесенного COVID-19 не говорит об отсутствии защиты»

16.01.2021
Цитата дня: «Из-за экономической изоляции нашу страну может постичь катастрофа»

Цитата дня: «Из-за экономической изоляции нашу страну может постичь катастрофа»

16.01.2021
В Самарской области еще 287 человек заболели коронавирусом

В Самарской области еще 287 человек заболели коронавирусом

16.01.2021
  • Политика конфиденциальности
  • Контакты
  • Прайс-лист
Понедельник, Январь 18, 2021
-18 °c
РегионСамара.ру
  • Новости
    • Новости Самарской области
    • Новости мира
    • Происшествия
    • Цифра дня
    • Цитата дня
    • Фото дня
  • Развитие и возможности
  • Бизнес
  • Право и закон
    • Новости законодательства
  • Люди и мнения
  • Открытая студия
18+
Нет результатов
View All Result
РегионСамара.ру
Нет результатов
View All Result
Главная Образ жизни Люди и мнения

«Технология клонирования голоса может стать реальной угрозой для систем голосовой биометрии»

Дарья Кузнецова
28.08.2020
в Люди и мнения
0
«Технология клонирования голоса может стать реальной угрозой для систем голосовой биометрии»
231
Поделились
661
Посмотрели
ПоделитьсяПоделитьсяПоделиться

Распознавание лиц и голоса, биометрические системы, «оживление» фото, обман системы распознания лиц, взлом голосовой биометрии. Об этом и многом другом из мира технологий РегионСамара.ру пообщался с исполнительным директором, начальником управления статистического анализа «Ренессанс Кредит» Сергеем Афанасьевым.

Как взломать голосовую биометрию?

Сейчас любой человек может создать свой дипфейк (примеч. — подделка), используя, например, мобильное приложение Reface. Хочу сразу предупредить безнадежных романтиков – дипфейки уже начинают регулироваться законом, поэтому официальные приложения работают по принципу fair use (добросовестное использование) и имеют ряд ограничений и защит – например, запрет на анонимное использование, наличие вотермарок, скрытых меток и т.п.

Расскажу, как взламываются системы распознавания голоса. Вообще взломом (или клонированием) чужого голоса начали заниматься еще до появления нейронных сетей. Среди российских экспертов по клонированию чужого голоса самими известными считаются Владимир Винокур и Максим Галкин. Но мы поговорим о более современных технологиях взлома, которые можно легко масштабировать.

Одна из таких технологий – запущенный в 2017 году проект Lyrebird AI, который позволяет генерировать речь по загруженному слепку голоса. Примерно через год после запуска разработчики открыли доступ к API проекта, то есть любой желающий мог воспользоваться этой технологией. Григорий Бакунов из Яндекса (который придумал специальный макияж для взлома фотобиометрии) в своем телеграм-канале тогда писал:

«TNW с испугом пишет о потенциале проекта Lyrebird для преступников. Эта система позволяет загрузить минуту своего голоса, а потом получить текст-ту-спич* с голосом, похожим на ваш. Автор прав, сделать из, скажем, 2-3 часов речи очень приличный TTS можно, причем для этого подойдут уже готовые опенсорсные технологии».

* Text-to-speech или TTS — преобразование текста в речь.

Сейчас на рынке есть уже несколько проектов, позволяющие клонировать чужой голос:

  • Resemble.AI – предоставляется демоверсия программы;
  • iSpeech – есть демоверсия для 27 языков, включая русский;
  • Lyrebird AI – можно загрузить демоверсию на 3 часа речи;
  • Vera Voice – продукт от компании Screenlife Technologies и команды проекта «Робот Вера».

Технология клонирования голоса может стать реальной угрозой для систем голосовой биометрии – когда по загруженному слепку чьего-либо голоса мошенники смогут генерировать этим голосом любую речь: например, ответы на вопросы оператора банка, где используется голосовая биометрия.

И хотя голосовые слепки сложнее достать, чем, например, фотографии из социальных сетей, такие технологии будут использоваться в различных мошеннических схемах.

Для защиты систем голосовой биометрии, как и для фотобиометрии, используют технологию Liveness Detection, которая позволяет убедиться, что на другом конце провода находится живой человек, а не диктофон с заранее записанной речью. Для голосовой биометрии обычно используется интерактивный Liveness Detection – когда человека просят произнести случайно сгенерированную фразу. Текущие возможности нейронных сетей позволяют обходить интерактивный Liveness Detection путем генерации речи в режиме онлайн. В развитии технологии генерации речи пионерами можно считать компанию DeepMind, принадлежащую Гуглу, которая известна благодаря своей программе AlphaGo, победившей чемпиона мира в игру го (китайский аналог шахмат или шашек).

Компания DeepMind прославилась не только своими игровыми ботами. В 2016 году они разработали порождающую нейронную WaveNet, которая умеет генерировать речь по технологии TTS в режиме онлайн. В основе WaveNet лежат разработанные в DeepMind свёрточная и рекуррентная нейронные сети PixelCNN и PixelRNN. В первых релизах Wavenet (в 2016 году) разработчики DeepMind отмечали проблему высокой ресурсоемкости нейронной сети – для генерации одной секунды речи требовалось порядка 1-2 минут работы нейронной сети. Всего через год эту проблему решили, и WaveNet стала генерировать одну секунду речи всего за несколько миллисекунд. Позже WaveNet была встроена в голосовой помощник Google Assistant.

Со взломом голосовых технологий ученые активно экспериментируют и по другим направлениям. В 2018 году исследователи из университета Беркли (США) показали, как можно взламывать голосовые помощники: они отправляли на голосовые помощники Siri и Alexa набор звуков, находящиеся за пределами человеческой слышимости или замаскированные среди музыки, и смогли тайно активировать системы искусственного интеллекта на смартфонах – набирать номера телефонов, открывать веб-сайты и т.д.

Демонстрация этих уязвимостей поставила под сомнение надежность голосовой биометрии для ее использования в системах безопасности, например, при разблокировке дверей дома, переводе денег в мобильном банке, покупке товаров в интернет-магазинах и т.д.

Инженеры по разработке систем безопасности понимают риски, связанные с уязвимостями биометрических систем, и начинают прибегать к мультимодальному подходу – когда в систему идентификации закладывается сразу несколько видов биометрии. Один из таких примеров — Единая биометрическая система (ЕБС), запущенная в России в 2018 году для удаленной идентификации граждан на портале госуслуг. ЕБС использует две модальности для биометрической идентификации: распознавание лица по фотографии и голосовую идентификацию пользователя. Разработчики ЕБС предполагали, что бимодальный подход позволит уменьшить долю ошибочных срабатываний, а также снизит риски взлома, поскольку злоумышленникам придется обходить сразу два типа биометрии – фото и голос.

Но совсем недавно, в начале 2020 года, китайские исследователи из технологической компании SenseTime разработали генеративную нейронную сеть, которая позволяет принимать на вход изображение целевой персоны и аудиозапись с речью, а на выходе — отдавать видео с целевой персоной, на котором выражение лица человека соответствует аудиодорожке. Таким образом, с помощью этой технологии можно «оживить» фотографию лица любого человека с его клонированным голосом. Это показывает, что и бимодальные биометрические системы, вообще говоря уязвимы.

Поделиться92Твитнуть58Поделиться16

Цифра дня

В Самаре на Крещение оборудуют одну купель, остальные ликвидируют

Цифра дня: каждый 8 россиянин планирует принять участие в крещенских морозах

17.01.2021

Цитата дня

В Самарской области готовятся приступить к вакцинации против коронавируса

Цитата дня: «Иммунитет после COVID-19 держится 3-5 месяцев»

17.01.2021

Книга недели

Книга недели: Цифровая трансформация, Томас Сибес

Книга недели: Цифровая трансформация, Томас Сибес

03.01.2021
РегионСамара.ру

© 2008-2019 РегионСамара — новости города Самары и Самарской области за сегодня и последние сутки онлайн: экономика, политика, культура, спорт, криминал, происшествия дня.

Навигация по сайту

  • Политика конфиденциальности
  • Контакты
  • Прайс-лист

Информационная продукция, размещенная на портале РегионСамара, запрещена для детей

Подписывайтесь

СМИ сетевое издание РегионСамара

Учредитель СМИ:
Общество с ограниченной ответственностью «Регион ТВ»

Email:
info@regionsamara.ru

Тел. редакции (846) 97-97-500

Главный редактор Фомина Н.С.

Выписка о регистрации СМИ

Нет результатов
View All Result
  • Новости
    • Новости Самарской области
    • Новости мира
    • Происшествия
    • Цифра дня
    • Цитата дня
    • Фото дня
  • Развитие и возможности
  • Бизнес
  • Право и закон
    • Новости законодательства
  • Люди и мнения
  • Открытая студия

© 2008-2019 РегионСамара — новости города Самары и Самарской области за сегодня и последние сутки онлайн: экономика, политика, культура, спорт, криминал, происшествия дня.

Login to your account below

Забыли пароль?

Fill the forms bellow to register

All fields are required. Log In

Retrieve your password

Please enter your username or email address to reset your password.

Log In