!deep deep mp3
»наука и техника технологии Microsoft нейросети VALL-E DeepFakes Deepfake deep fakes длиннопост длиннотекст
Новый ИИ от "Microsoft" может имитировать голос любого человека с помощью 3 секунд аудиозаписи
Модель преобразования текста в речь может так же сохранять эмоциональный тон диктора и акустическое окружение.
Исследователи "Microsoft" анонсировали новую модель ИИ для преобразования текста в речь под названием "VALL-E", которая может точно имитировать голос человека, после того как ей предоставят трехсекундный образец аудиозаписи. Как только она запоминает конкретный голос, "VALL-E" может синтезировать аудиозапись того, как этот человек говорит что угодно, и сделать это таким образом, чтобы сохранить эмоциональный тон говорящего.
Его создатели предполагают, что "VALL-E" может быть использован для высококачественных приложений преобразования текста в речь, редактирования речи, когда запись человека может быть отредактирована и изменена на основе текстовой расшифровки (заставляя его говорить то, чего он изначально не говорил), и создания аудиоконтента в сочетании с другими генеративными моделями ИИ, такими как GPT-3.
"Microsoft" называет "VALL-E" "нейронным языковым кодеком" ("neural codec language model"). Она основана на технологии под названием "EnCodec", которую "Meta" анонсировала в октябре 2022 года. В отличие от других методов преобразования текста в речь, которые обычно синтезируют речь путем манипулирования волновыми формами, "VALL-E" генерирует дискретные коды "аудиокодеков" из текста и акустических образцов. По сути, он анализирует, как звучит человек, разбивает эту информацию на дискретные компоненты (называемые "лексемами") благодаря "EnCodec" и использует обучающие данные для соответствия тому "знанию" о том, как бы звучал этот голос, если бы он произносил другие фразы за пределами трехсекундного образца. Или, как "Microsoft" выражается в документе "VALL-E":
«Для синтеза персонализированной речи (например, "нулевого TTS" ("zero-shot TTS")) "VALL-E" генерирует соответствующие акустические лексемы на основе акустических лексем 3-секундной записи и образца фонемы, которые ограничивают информацию о дикторе и содержании соответственно. Наконец, сгенерированные акустические лексемы используются для синтеза конечной формы сигнала с помощью соответствующего декодера нейронного кодека».
"Microsoft" обучила возможности синтеза речи "VALL-E" на аудиотеке, собранной компанией "Meta", под названием "LibriLight". Она содержит 60 000 часов англоязычной речи от более чем 7 000 дикторов, в основном взятых из аудиокниг "LibriVox", являющихся общественным достоянием. Чтобы "VALL-E" выдал хороший результат, голос в трехсекундном образце должен точно соответствовать голосу в обучающих данных.
На сайте, посвященном примерам "VALL-E", "Microsoft" предоставляет десятки аудиопримеров модели ИИ в действии. Среди примеров "Speaker Prompt" – это трехсекундная аудиозапись, предоставленная "VALL-E", которую он должен имитировать. "Базовая истина" – это уже существующая запись того же диктора, произносящего определенную фразу для сравнения (своего рода "контроль" в эксперименте). "Базовая линия" – это пример синтеза, обеспечиваемого обычным методом синтеза текста в речь, а образец "VALL-E" – это результат работы модели "VALL-E".
Блок-схема "VALL-E", предоставленная исследователями "Microsoft".
При использовании "VALL-E" для получения этих результатов исследователи передали в "VALL-E" только трехсекундный образец "Speaker Prompt" и текстовую строку (то, что они хотели, чтобы сказал голос), и сравнивали образец "Ground Truth" с образцом "VALL-E". В некоторых случаях эти два образца очень близки. Некоторые результаты "VALL-E" кажутся сгенерированными компьютером, но другие могут быть приняты за речь человека, что и является целью модели.
Помимо сохранения тембра голоса и эмоционального тона диктора, "VALL-E" может также имитировать "акустическую среду" аудиообразца. Например, если образец получен из телефонного разговора, то в синтезированном аудиовыходе будут имитироваться акустические и частотные свойства телефонного разговора. Образцы "Microsoft" (в разделе "Синтез разнообразия") демонстрируют, что "VALL-E" может генерировать вариации тона голоса, изменяя случайное "зерно", используемое в процессе генерации.
Возможно, из-за способности "VALL-E" потенциально быть использованным для обмана, "Microsoft" не предоставила код "VALL-E" для экспериментов другим, поэтому возможность непосредственно проверить возможности "VALL-E" – отсутствует. Исследователи, похоже, осознают потенциальный социальный вред, который может принести эта технология. В заключении статьи они пишут:
«Поскольку "VALL-E" может синтезировать речь, которая сохраняет звучание диктора, это может нести потенциальные риски неправильного использования модели, такие как подмена идентификации голоса или выдача себя за конкретного диктора. Чтобы снизить такие риски, можно построить модель обнаружения, позволяющую определить, был ли аудиоклип синтезирован "VALL-E". Мы также будем применять принципы "Microsoft AI Principles" на практике при дальнейшей разработке моделей».
#Metal фэндомы Deep Purple Infinite Hard Rock progressive rock иногда даже Heavy Metal DP Roots and Branches
Deep Purple - Infinite (2017) UK
Вот и новый альбом Deep Purple который лично я ждал. От личного мнения воздержусь, слишком всё сложно.#Metal фэндомы Don Aireyб DP Roots and Branches Deep Purple Hard Rock progressive rock Melodic Metal Don Airey
Don Airey - One of a Kind (2018)
Просто приятный сольник нынешнего клавишника Deep Purple, также известного благодаря участию во всех группах - Дона Эйри.#Metal фэндомы David Coverdale DP Roots and Branches Deep Purple Whitesnake Hard Rock Blues Rock Heavy Metal
День рождения Дэвида Ковердейла!
65 лет исполняется великолепному вокалисту и неплохому композитору Дэвиду Ковердейлу!музыка радио joyradio Deep Sounds
о самой интересной и неординарной электронной музыке!!... DEEP Sounds!!
Сегодня погружаемся в релакс ритмы солнечно андерграундной Lounge и Chill музыки, слушаем самое интересное и новое!
Подключаемся ровно в 20.00 по МСК к самой тёплой и ламповой... Joyradio.cc
В эфире с вами этим вечером, RJ webstyle!... До встречи!!
Слушать можно так:
http://airtime.joyradio.cc:8000/airtime_192.mp3.m3u - качаем плейлист и открываем плеером.
На сайте радивы.
Или... Прямо тут!
И не забываем про нашу группу вконтакте.
#Metal фэндомы Deep Purple DP Roots and Branches Hard Rock Speed King
Deep Purple – Speed King (Piano Version) (1969)
Недавно наткнулся на раннюю версию песни Speed King с пианино вместо органа.музыка радио Deep Sounds trip-hop
продолжение передачи Deep sounds, в эфире Trip Hop и очень очень много интереснейших вещей.
Вас ждёт плотный и мягкий саунд от известных и не очень продюсеров электронной андеграунд сцены
а также пара приятных сюрпризов.
Присоединяемся в 20 00 по мск!!
С вами снова этим тёплым триповым вечером RJ webstyle!
Слушать можно так:
http://airtime.joyradio.cc:8000/airtime_192.mp3.m3u - качаем плейлист и открываем плеером.
На сайте радивы.
Или... Прямо тут!
И не забываем про нашу группу вконтакте.