когда услышал свой голос на записи
»Великобритания финансы банк безопасность ИИ AI нейросети технологии habr длиннопост Lloyds Bank Lloyds кибербезопасность
Клиент банка "Lloyds" из Великобритании получил доступ к своему банковскому счету с помощью голосового ИИ
Клиент банка "Lloyds Bank" из Великобритании обнаружил, что может получить доступ к своему банковскому счету с помощью голосового ИИ через идентификацию по "Voice ID".
Пользователь Джозеф Кокс выяснил, что голосовой идентификатор нельзя использовать в качестве безопасного способа для входа в свою банковскую учётную запись. Он смог обмануть систему с помощью бесплатной версии решения от "ElevenLabs" для генерации своего синтетического голоса на основе пяти минут цифровой записи своего настоящего голоса.
Он проводил эксперимент несколько раз, так как изначально система "Lloyd Bank" сообщала, что не может аутентифицировать его голос. После внесения некоторых изменений в настройках "ElevenLabs" для генерации голоса, таких как чтение более длинного текста, чтобы каденции звучали более естественно, его сгенерированный голос успешно обошёл систему безопасности банка.
В итоге Кокс позвонил на автоматическую линию обслуживания банка и начал активировать файлы с генерацией своего голоса. Банк принял его фразу «Проверить мой баланс» и после этого попросил сказать две фразы – назвать свою дату рождения и прочитать «мой голос – мой пароль».
Кокс набрал на клавиатуре нужный текст и запустил генерацию голоса. «Мой голос – мой пароль», — сказал ИИ его голосом. Система безопасности банка потратила несколько секунд на идентификацию этого голосового фрагмента. «Спасибо», — сказал банк, а Кокс попал внутрь своего аккаунта.
«Я не мог в это поверить – это сработало. Я использовал реплику своего голоса с помощью ИИ, чтобы взломать свой банковский счёт. После этого у меня был доступ к информации об учётной записи, включая баланс и список последних транзакций и переводов», — уточнил Кокс.
На веб-сайте "Lloyds Bank" сообщается, что опция "Voice ID" абсолютна безопасна. «Ваш голос подобен отпечатку пальца и уникален для вас», — утверждает банк. — "Voice ID" анализирует более 100 различных характеристик вашего голоса, которые, как и ваш отпечаток пальца, уникальны для вас. Например, как вы используете свой рот и голосовые связки, какой у вас акцент и как быстро вы говорите. Система также распознает вас, если у вас простуда или боль в горле», — уточнено на сайте банка в описании этой технологии.
Представитель "Lloyds Bank" заявил, что опция "Voice ID" обеспечивает высокий уровень защиты, чем традиционные методы аутентификации. По мнению банка, синтетические голоса не так привлекательны для мошенников, как другие методы для компрометации данных клиентов.
В "Lloyds Bank" в курсе об угрозе клиентам от синтетических голосов и там постоянно дорабатывают проверку голоса. В банке сообщили, что голосовая идентификация "Voice ID" уже привела к значительному снижению мошенничества с телефонным банкингом.
Профильные эксперты пояснили, что всем клиентам, использующим голосовую аутентификацию в банках, лучше переключиться на безопасный метод проверки личности, такой как многофакторная аутентификация, как можно скорее. Они опасаются, что репликация голосов в этом году будет одним из векторов атак на учётные записи пользователей в банках, так как злоумышленники в курсе информации о дне рождения жертвы, а получить запись голоса можно также разными способами.
Аналогичную голосовую идентификацию предлагают банки в США, например, "TD Bank" (опция "VoicePrint"), банк "Chase" (также "Voice ID") и "Wells Fargo" (функция "Voice Verification"), которые, согласно описанию, «эффективно защищают личность клиента».
Ранее исследователи с помощью нейросети "elevenlabs.io" и "ChatGPT" рассказали голосом Стива Джобса про "ChatGPT". Особенность "elevenlabs.io" заключается в том, что нейросети достаточного слушать оригинальный голос в течение всего нескольких секунд, чтобы потом воспроизвести его.
В начале января "Microsoft" объявила о создании инструмента "VALL-E" для имитации любого голоса. Этому ИИ достаточно трёхсекундного образца для генерации полноценного голоса человека. Услышав конкретный голос, "VALL-E" создаст аудиозапись того, как человек говорит что-то, причём постарается сохранить даже его эмоциональный тон.
гендер SJW Виртуальный цифровой помощник толерантность
Борцы за равноправие полов требуют заменить женский голос электронных ассистентов на нейтральный
Группа датских активистов создала «гендерно-нейтральный» голос Q для цифровых помощников. По мнению активистов, современные голосовые помощники имеют имена, такие как Alexa или Siri, и голоса по умолчанию, чётко ассоциирующиеся с женским полом.В результате, в сознании пользователей пользователей появляется стереотип «женщина — помощник». Также активисты отмечают, что не все себя чётко идентифицируют как женщину или мужчину, а виртуальные помощники предлагают только два варианта человеческих голосов — женский или мужской. В результате, ущемляются права трансгендеров и других не вписывающихся в общепринятую систему пользователей.
В качестве решения они предложили «гендерно-нейтральный» голос Q. Для этого борцы за равноправие вместе с лингвистами, программистами и звуковыми дизайнерами из компаний Virtue, EqualAI, Koalition и Thirtsoundgood. Специалисты записали и «усреднили» голоса десятков людей — женщин, мужчин, трансгендеров и так далее.
Затем результаты оценили 4500 человек и был выбран самый нейтральный. Борцы за права надеются заставить корпорации использовать Q в своих помощниках в качестве голоса по умолчанию.
ебанутые записи ватников с социальных сетей Дауны политика
Я все еще не верю, что можно быть настолько тупым, чтобы не понимать почему все именно так, как оно и должно быть. Логические цепи у этих "людей" ну просто не идут дальше одного звена и все тут, какой-то блядь ментальный блок. Слушайте, вот в книге Хаксли эмбрионам в мозг спирт вкалывали, чтобы сделать тупую низшую касту чернорабочих, которые ни на что не жалуются, может у нас в роддомах тоже такое практикуют?
амазон умный дом расизм customer experience блокировки пластмассовый мир победил habr Medium Цифровой ГУЛАГ
Из-за "расизма" умного дверного звонка "Amazon" заблокировала умный дом своего пользователя
Один из пользователей "Amazon" Брэндон Джексон рассказал в своём блоге на "Medium", как несколько жизненно важных функций его умного дома были заблокированы, после того как курьер Amazon пожаловался на "расизм" Джексона. Компания почти неделю расследовала инцидент и на это время закрыла своему клиенту с 10-летним стажем доступ к домашним устройствам… из-за неверно расслышанной фразы дверного звонка "Eufy".
Умное устройство произнесло формальную фразу «Могу ли я вам помочь?», так как ни самого Джексона, ни его домочадцев не было на месте. Но курьер, который в этот момент использовал наушники, услышал «расистское замечание» и пожаловался работодателю. На следующий день учётная запись Джексона в Amazon и домашние устройства оказались заблокированы:
«Я обнаружил, что мой "Echo Show" вышел из строя, и я не могу взаимодействовать со своими умными домашними устройствами. Моё первоначальное предположение заключалось в том, что кто-то мог неоднократно пытаться получить доступ к моей учётной записи, что привело к блокировке».
Джексон перепроверил все свои учётные записи в других сервисах и соцсетях, подозревая, что его данные могли быть скомпрометированы, но они были в порядке. Тогда он связался с "Amazon" и узнал об обвинении в расизме, причём тон представителя компании показался ему «обвинительным».
Брэндон Джексон пытался помочь следствию "Amazon", которое продолжалось около недели, и предоставлял видеодоказательства своей невиновности (камера слежения записала инцидент с "расистским высказыванием" звонка). В конце концов "Amazon" разблокировала учётку и устройства Джексона, но не извинилась и даже не отправила ему уведомление об окончании расследования.
Джексон поделился своей историей с популярным "YouTube"-блогером Луи Россманном, и тот привлёк к ней внимание широкой аудитории. А раздосадованный Джексон призвал "Amazon" реформировать и переосмыслить свой подход к решению подобных деликатных ситуаций в будущем: «После почти десяти лет лояльности я получил жёсткое напоминание, что недоразумение может привести к таким радикальным мерам». Пострадавший пользователь компании теперь считает, что этот инцидент «заставил поставить под сомнение мои отношения с "Amazon"».
У вас блядь полстраны на улицах ссыт и срет, а вы нападаете на соседние страны. Как остоебенило уже. Блядь, не могу