Образцы голоса затем используются для создания фейковых аудиозаписей и выманивания денег. Уже известны случаи, когда подделывали голос человека и даже внешность. IT-эксперты рассказали, как мошенники подделывают голоса россиян.
Мошенники имитируют голос родственников с помощью искусственного интеллекта
Как мошенникам удается подделать голос Нейросети на базе искусственного интеллекта могут имитировать голос позвонившего вам знакомого или родственника. Для этого мошенникам требуется образец голоса, который без труда можно найти в мессенджере, где практически все пользователи отправляют голосовые сообщения. Подделка голоса осуществляется при помощи различных сервисов и программ, способных создавать голосовые аналоги человека на основе записанных образцов. Качество синтезированного голоса зависит от точности и количества записанных образцов. Благодаря современным технологиям, хакерам достаточно всего 20-секундного фрагмента разговора для создания копии голоса любого человека. Мошенники добывают образцы голоса потенциальной жертвы разнообразными методами: используют общедоступные аудио- и видеозаписи из интернета, а также данные, полученные при утечках биометрической информации.
Кроме того, они могут записать голос человека, просто позвонив ему, и использовать диктофон для записи. Иногда мошенники получают доступ к аккаунту пользователя в мессенджере, применяя различные методы, такие как фишинг и социальная инженерия. Получив доступ к переписке, злоумышленники извлекают голосовые сообщения и загружают их в специальную систему, функционирующую на базе искусственного интеллекта.
Это единственный надежный способ. Вступать в диалог и задавать проверочные вопросы опасно: у мошенника есть доступ ко всей переписке и он может быстро найти ответ, который вас устроит.
Если друг не отвечает, надежнее всего подождать, пока связь наладится. Деньги редко бывают нужны настолько срочно, чтобы несколько часов имели значение. Например, в нашей истории цена вопроса — всего лишь возможный штраф за небольшую просрочку взноса. Если в чате вас продолжают торопить, это очень подозрительно. Подробнее о том, как взять паузу, чтобы вам не помешали, рассказывают в первом уроке курса «Как защититься от мошенников».
Попросить записать несколько голосовых, если все-таки нет возможности позвонить. Чтобы сделать убедительное аудиосообщение, преступнику придется потратить несколько часов на работу, поэтому он начнет увиливать: «Ты меня обижаешь, мы сто лет дружим» или «К чему этот детский сад, ты что, мне не доверяешь? У реального человека нет причин не выполнить подобную просьбу. Не переводить деньги по номеру карты. Мошенник отправил знакомому фото банковской карты с номером, именем и фамилией Дениса — видимо, подделал реквизиты в «Фотошопе».
Карта не была привязана к телефону и СБП, поэтому приложение банка не показывало получателя.
Так, школьница отдала 275 тысяч рублей мошенникам, которые сгенерировали голос ее бабушки. Подобные файлы злоумышленники создают и с известными личностями, где те рекламируют сомнительные сайты и услуги. Как отмечают юристы, бороться с распространением дипфейков непросто.
Распознать обман очень сложно. Мошеннические схемы Для изменения номера используются SIP-клиенты. Звонки осуществляются через интернет. Реализация схемы происходит 2 путями: Мошенник вручную устанавливает нужный ему телефон. Злоумышленники взламывают контакт-центры или АТС и звонят через них. Узнать, кто именно звонит в обоих случаях без специального оборудования практически невозможно.
Другой вариант - программа Caller-ID. С помощью нее обманываются не только граждане, но и банковские учреждения, которые используют голосовое меню для обслуживания клиентов. Так, мошенники могут получать конфиденциальную информацию о человеке и применять ее в различных преступных схемах. Чаще всего преступники звонят от имени близких людей, сотрудников банка или правоохранительных органов.
Мошенники начали подделывать голоса: Луки.ру выяснили, смогут ли они оформить кредит в банке
Теперь мошенники с помощью нейросетей могут подделывать голоса прямо во время разговора. Благодаря бурно развивающемуся искусственному интеллекту (ИИ) мошенники теперь способны воспроизвести голос знакомого человека, а в некоторых случаях даже его лицо. Обычно мошенники надевают на себя маску родственника жертвы и меняют голос, а потом рассказывают душераздирающую историю о том, как они попали в беду и что им срочно нужны деньги. В Кизеле пойман мошенник, забравший у пенсионерки 100 тысяч. Руководитель британской фирмы не сомневался, что разговаривает со своим руководителем, он узнал акцент и тембр голоса начальника. Мошенники подделали голос директора компании с помощью искусственного интеллекта и украли 243 тысячи долларов. Телефонные мошенники научились подделывать не только номера, но и голоса.
"Аудиодвойник" бизнесмена из Москвы обманом заполучил кассу его фитнес-клуба, пока он отдыхал
Уже известны случаи, когда подделывали голос человека и даже внешность. Теперь мошенники с помощью нейросетей могут подделывать голоса прямо во время разговора. Мошенники вышли на новый уровень: они подделывают не только номера телефонов,но даже голоса звонящих! Телефонные мошенники научились подделывать голоса, ЦБ РФ предупредил о новых видах мошенничества с нейросетями в Волгограде.
Мошенники научились подделывать голоса. Как не попасться на уловку
Маскировка под родственника Преступники научились подделывать любые номера. Они могут позвонить от имени родственника, друга, врача, и ввести жертву в заблуждение. Для изменения номера на другой используется специальный идентификатор - Caller ID. Телефонные операторы предоставляют возможность управления звонками за символическую плату.
Во время пандемии у злоумышленников появились новые пути для обмана своих жертв. К примеру, они могут собирать деньги на проведение вакцинации или закупку лекарственных препаратов для нуждающихся. Видя знакомый номер, люди часто попадаются в ловушку, отправляют деньги или предоставляют конфиденциальные данные.
Далее личная информация используется для получения кредитов или продается третьим лицам. Кроме того, мошенники могут менять голос, имитируя близких людей. Распознать обман очень сложно.
С ней связались мошенники, изобразили покупателей и предложили перевести деньги на карту подруги у девушки не было доступа к своей карте , попросив ее номер телефона. Через какое-то время с этого номера позвонила будто бы та самая подруга и подтвердила перевод. Девушка отдала мошенникам браслет и уже позже узнала, что на самом деле разговаривала не с подругой, а с нейросетью. Действуют преступники следующим образом. Сначала ищут по базам связанных между собой людей — знакомых или родственников. Затем связываются с одним из них и представляются какой-нибудь службой, задача — завязать разговор и получить на руки образцы голоса.
Технология искусственного интеллекта ИИ позволяет мошенникам использовать более тонкие приёмы — голосовые сообщения или звонки от имени близких людей. Например, матери может прийти голосовое сообщение от «дочери», якобы попавшей в аварию, а сестре — позвонить брат с вопросом жизни и смерти. Совпадение полное за исключением того, что ребёнок говорил, — он у меня не говорит именно так. Тем не менее это очень близко к реальности, и спутать человека очень легко», — рассказал «Абзацу» ведущий аналитик Mobile Research Group, аналитик ИИ Эльдар Муртазин.
Для того чтобы звонок был более адресным, злоумышленники проделывают большую работу — на основании информации из соцсетей составляют цифровой портрет человека. Это позволяет определить круг его близких, сферу деятельности и личные предпочтения. Никто от этого не защищён, поэтому смотрим, с какого телефона вас набирают, насколько человек владеет той информацией, которую знаете только вы вдвоём», — продолжает эксперт. Эксперт рекомендует для защиты от мошенников придумать со своими родными и близкими кодовые слова.
Они помогают определить, кто звонит — живой человек или программа.
Тогда работница согласилась отдать 155 тысяч рублей, которые были в кассе. А спустя полчаса явился курьер и забрал деньги. Администратор позже решила всё же убедиться, что всё сделала правильно, и написала в рабочий чат. Тогда обман и вскрылся.
Мошенники научились подделывать ваш голос: стоит ли опасаться
Один из новых способов кражи денег: звонки под видом работника службы безопасности банка. Жертву предупреждают, что скоро ей позвонят из полиции, — и обманутый человек диктует данные банковской карты. Также развивается технология deepfake: преступники подделывают голос близких людей жертв.
Тогда обман и вскрылся. Ей сообщили, что директор в отпуске, более того, у них не принято так отправлять деньги. На кибермошенников, подделавших голос Колмыкова через нейросети, подали заявление в полицию. Проводится проверка.
Теперь полиция намерена расширить свою службу оповещений, включив в неё систему быстрых платежей FPS , чтобы предупреждать пользователей о том, что они переводят деньги на мошеннические счета. В 2020 году мошенники клонировали голос директора банка в ОАЭ и использовали его для ограбления финучреждения.
Между тем эксперты по кибербезопасности F. С помощью ИИ хакеры подделывают голоса руководителей компании для авторизации перевода средств. Таким атакам наиболее подвержен малый и средний бизнес, где многие процессы завязаны именно на владельца.
Организации, разрабатывающие технологии идентификации, уделяют максимум внимания безопасности данных клиентов, а алгоритмы учитывают целый ряд факторов, включая данные об устройстве и местоположении, чтобы обеспечить доступ к конфиденциальной информации только проверенным пользователям. Но при этом он предостерег россиян от забывания простых правил цифровой гигиены, таких как осторожность при нежелательных звонках, использование официальных телефонных номеров, указанных на банковских картах, для связи с финансовыми учреждениями и избегание передачи личной информации незнакомым людям.
Эксперт рассказал, как распознать в телефонном собеседнике мошенника
Мошенники подделали голос родственника жертвы, который из-за этого лишился 100 тысяч рублей. 15 миллионов звонков в день совершали телефонные мошенники в России в апреле, почти в два раза больше чем в прошлом году. Подделывать голоса мошенники могли задолго до появления нейросети. Мошенники в России научились подделывать голос по телефону и в социальных сетях. Новости Технологии 29 июля 2022. Телефонные мошенники начали подделывать голос «Алисы». Телефонные мошенники в России все чаще подделывают голоса родственников и знакомых своих жертв.
Центробанк: мошенники стали чаще имитировать голоса родных и знакомых россиян
Большая часть таких объявлений размещена в Telegram, но используются и другие популярные ресурсы. Такая запись голоса может требоваться мошенникам, поскольку качество записи телефонного разговора недостаточно для обучения нейросетей, говорит бизнес-консультант по информационной безопасности компании Positive Technologies Алексей Лукацкий: — Я не сталкивался пока с такого рода предложениями и историями, но допускаю, что мошенники тестируют разные гипотезы и выбирают из них потом наиболее эффективные. У технологии машинного обучения есть особенность: им на вход надо подавать голос совершенно различный, записанный в разных ситуациях, с разным качеством, для того чтобы синтезированный голос потом был действительно похож на настоящий. И поэтому запись именно таким образом, возможно иногда даже и студийного качества, позволяет синтезировать мошенникам голос, похожий на настоящий. Тут использовать более сложные вещи с записью голоса не требуется, но поскольку в нашей стране достаточно активно внедряется Единая биометрическая система и на биометрию переходят многие коммерческие организации, как минимум финансовые, то мошенники просто готовятся к новому витку своей деятельности. Рассылки голосовых сообщений мошенники в России используют не очень часто, говорит директор технического департамента RTM Group, эксперт в области информационной безопасности и компьютерной криминалистики Федор Музалевский: — При записи телефонного разговора качество записи ограничено восемью килогерцами, что не всегда достаточно для корректного обучения тех же нейросетей. Помимо этого, длительность разговора будет заметно меньше, и она потребует вовлеченности злоумышленника, то есть будет отрывать его от производства. Плюс у нас в стране достаточно скептическое отношение к голосовым сообщениям.
У нас некоторое время назад, может быть, месяц, были случаи, когда в корпоративной рассылке использовались голосовые сообщения, но это очень редко встречается, поэтому эффективность практически нулевая. То есть у нас ни в корпоративной культуре, ни в обиходе голосовые сообщения никогда не были и в настоящий момент не являются руководством к действию.
В сообщники они взяли искусственный интеллект, который теперь умеет подделывать чужие голоса. О первых случаях применения этой схемы и о том, как она работает, — Анна Воропай. Поделиться Мошенники начали подделывать голоса с помощью нейросети Мошенники начали подделывать голоса с помощью нейросети Александра показывает переписку — от ее имени мошенники отправили знакомым десятки сообщений. С общим смыслом: привет, вышли деньги. Чтобы получилось правдоподобно, в стандартную схему обмана добавили новый элемент: голосовое сообщение. Тембр, интонация. Да и сам голос, будто записанный на бегу, — все это так напоминало настоящего собеседника.
Скорее всего, образец мошенники взяли из аудиосообщений во взломанном мессенджере. Просто надо чистить кэш наверное, убирать голосовые. Тогда не будет таких ситуаций, даже если взломают", — рассказала жертва мошенников Александра Никитина.
Мошенники добывают образцы голоса потенциальной жертвы разнообразными методами: используют общедоступные аудио- и видеозаписи из интернета, а также данные, полученные при утечках биометрической информации. Кроме того, они могут записать голос человека, просто позвонив ему, и использовать диктофон для записи. Иногда мошенники получают доступ к аккаунту пользователя в мессенджере, применяя различные методы, такие как фишинг и социальная инженерия. Получив доступ к переписке, злоумышленники извлекают голосовые сообщения и загружают их в специальную систему, функционирующую на базе ИИ. Эта система затем анализирует голосовые образцы и учится имитировать особенности речи человека.
Могут ли мошенники позвонить в банк и украсть деньги? С имитированным голосом жертвы мошенники могут попытаться позвонить в банк и выполнить различные операции, такие как снятие денег со счета или перевод средств на другой счет. Однако ведущие российские банки не используют систему управления счетом с помощью голоса. Например, в СберБанке в качестве биометрического идентификатора для проведения платежных операций используется не голос, а лицо человека. Банки сохраняют ваш голос в биометрической базе только для того, чтобы автоматически распознавать его при звонках в техническую службу поддержки банка. К тому же существует опасение, что мошенники запишут ваш голос и передадут в Единую биометрическую систему или биометрические системы банков. Однако, несмотря на возможность утечки биометрии из банковского хранилища, использовать ее для несанкционированной идентификации невозможно. Причина состоит в самом процессе идентификации.
Поэтому не стоит как-то из-за этого сильно переживать, а просто сбросить телефонный звонок и перезвонить в ту организацию, сотрудником которой представлялся звонящий. Если это правоохранительные органы, то нужно звонить в полицию", — разъяснил собеседник Москвы 24. Также эксперт предостерег от активного общения с мошенниками и их разоблачения. Даже знакомый с преступными схемами человек может попасться на удочку, уверен Ульянов. Мошенники — люди достаточно опытные, скорее всего, они обзвонили не одну тысячу потенциальных жертв, простыми вопросами их не ошарашишь. Обычно у них есть четкие легенды, и они точно знают, что ответить. Более того, истории готовятся другими людьми, которые более опытны в этих вещах, — чаще всего психологами. Владимир Ульянов руководитель аналитического центра Zecurion Эксперт в области информационной безопасности Александр Власов в разговоре с Москвой 24 посоветовал получше следить за разговорами коллег и друзей, чтобы быстро узнавать их манеру голоса. Поэтому в таких случаях нужно следить за своими знакомыми и друзьями, чтобы понимать, какими они выражениями и словечками пользуются в разговоре", — пояснил он.
Власов также пояснил, что мошенники в разговоре могут записывать слова собеседника, а потом использовать их в своих корыстных целях.
"Аудиодвойник" бизнесмена из Москвы обманом заполучил кассу его фитнес-клуба, пока он отдыхал
Теперь знакомому кажется, что в его случае произойдет примерно то же самое. Позвонить другу по телефону, чтобы убедиться, действительно ли ему нужна помощь. Это единственный надежный способ. Вступать в диалог и задавать проверочные вопросы опасно: у мошенника есть доступ ко всей переписке и он может быстро найти ответ, который вас устроит. Если друг не отвечает, надежнее всего подождать, пока связь наладится. Деньги редко бывают нужны настолько срочно, чтобы несколько часов имели значение. Например, в нашей истории цена вопроса — всего лишь возможный штраф за небольшую просрочку взноса. Если в чате вас продолжают торопить, это очень подозрительно. Подробнее о том, как взять паузу, чтобы вам не помешали, рассказывают в первом уроке курса «Как защититься от мошенников». Попросить записать несколько голосовых, если все-таки нет возможности позвонить. Чтобы сделать убедительное аудиосообщение, преступнику придется потратить несколько часов на работу, поэтому он начнет увиливать: «Ты меня обижаешь, мы сто лет дружим» или «К чему этот детский сад, ты что, мне не доверяешь?
У реального человека нет причин не выполнить подобную просьбу. Не переводить деньги по номеру карты.
Так нейросеть учится копировать голос. Трухачев добавил, что эти технологии также используют для создания информационных вбросов. Например, копируют речь президента или других известных личностей. В таком случае, по словам эксперта, нужно перезвонить на настоящий номер человека и уточнить, так ли это на самом деле. Сергей добавил, что преступники для подделки голоса используют видео.
По его словам, это связано с тем, что нейронные сети становятся все более доступными, значительно облегчают подделку контента и позволяют мошенникам с минимальными усилиями создавать убедительные фейки. Эксперты отмечают еще один источник данных для мошенников — это видеоконтент из соцсетей, который находится в свободном доступе, отмечают авторы исследования. Кроме того, с начала 2024 г.
Увеличение популярности мошеннических схем с применением техники социальной инженерии и дипфейков отмечают и исследователи компании F. По словам ведущего аналитика департамента Digital Risk Protection F. Евгения Егорова, в одном мошенническом сценарии злоумышленники заставляли детей отдавать курьерам сбережения семьи, используя смоделированный голос родственника. Среди других распространенных способов мошенничества с использованием дипфейков и социальной инженерии Мельников назвал обход систем безопасности в сервисах с голосовой идентификацией, а также создание видеоконтента с использованием лиц и голосов знаменитостей. Последний способ, к примеру, используют для «продвижения» несуществующих инвестиционных проектов, добавляет старший исследователь данных «Лаборатории Касперского» Дмитрий Аникин.
Еще лучше придумать кодовое слово, для своих, чтобы можно было понять: звонят родные, а не мошенники.
При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Технология называется "дипфейк" от англ. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями. Новые технологии используются не только передовыми IT-компаниями, но и вовсю группами мошенников. Волна дипфейков уже захлестнула Юго-Восточную Азию и Африку.