Мошенники всё активнее используют нейросети, чтобы подделывать голоса или лица знакомых доверчивых граждан и своровать их кровные.
Прозвони мне, прозвони. IT-эксперты рассказали, как мошенники подделывают голоса россиян
Причем слово в слово. Если по второму кругу включили ту же шарманку, значит это не просто мошенники с голосом моего ребенка. Нормальные, пусть даже и преступники, люди, сообразили бы, что раз я бросил трубку, значит я их раскусил. И второй раз звонить бы уже не стали. Робот, с точной копией голоса моего ребенка. На этот раз раздался третий звонок. На этот раз меня окатила волна спасения, радости и счастья.
Извини, мне просто стали лечить второй зуб, и я телефон отключила. После этого случая «незнакомый телефон» меня больше не беспокоил. А когда я попытался по нему дозвониться, то тот абонент был уже не абонент. Как выяснилось, жертвой такого жесткого приема был не я один. И я еще легко отделался. Другие жертвы в панике за своих детей все-таки заплатили выкуп.
И денег своих больше уже никогда не увидят. Илья Тараканов Так, как же может искусственный интеллект так ловко затуманить мозг родителю, который знает голос и интонацию своего ребенка лучше, чем свои пять пальцев?
Авторы таких объявлений просят предоставить аудиозапись в формате телефонного звонка или записи разговора, которую необходимо отправить личным сообщением или боту. За участие в проекте предлагают гонорар от 300 до 5000 руб. Для этого изначально нужен реальный голос человека, чтобы придать достоверность аудиосообщениям. Созданные таким образом голосовые сообщения могут адресоваться родственникам, коллегам по работе, которых часто легко определить по данным в открытом доступе, а также банковским сервисам и другим интересующим мошенников целям», — пояснил представитель Angara Security. Но оценить возможный ущерб от мошенничества именно с использованием дипфейков пока довольно трудно, так как случаев, которые удалось бы отследить или предотвратить, еще немного. Общий объем похищенных средств у граждан в 2023 г. По данным ЦБ, в 2022 г.
Руководитель сервиса аналитики и оценки цифровых угроз ETHIC ГК Softline Константин Мельников подтвердил, что в компании наблюдают тенденцию к увеличению использования поддельных аудио- и видеосообщений, отправляемых жертвам через мессенджеры, соцсети и комьюнити-платформы.
Он разыгрывал спектакль по мобильному телефону, после чего люди отдавали ему все свои сбережения, сообщил телеканал "360 Подмосковье". Реклама Вместе с сообщниками мужчина обманывал доверчивых людей, используя для этого лишь телефон. Поздней ночью они звонили, жертвам и говорили, что их сын либо внук попал в беду. Он говорит: "Мама, я сбил человека". Я говорю: на переходе сбил, да?
Да, мама, насмерть", - рассказала потерпевшая.
Комментарии из Instagram компании Meta, признанной в России запрещенной экстремистской организацией. Первые отчеты о применении технологии ИИ в схемах обмана по телефону западные эксперты начали получать с 2022 года.
Справочно: Правильнее будет говорить не про искусственный интеллект, а именно про нейросеть с машинным обучением на основе искусственного интеллекта. Технологические прорывы в сфере ИИ еще впереди. Чтобы машина получила полноправное звание искусственного интеллекта, она должна пройти самостоятельно, как минимум, тест Тьюринга.
Благодаря имеющимся уже технологиям хакерам достаточно всего лишь 20-секундного фрагмента с разговором, взятым из социальной сети, для создания клона голоса любого человека. Идентичность поражает настолько, что даже мать не сможет отличить голос своего ребенка от робота. Схема обмана та же, но инструменты более прогрессивные.
ИИ звонит и просит перевести деньги.
Голос в трубке заставил московского врача перевести мошенникам 3 млн рублей
Мошенники использовали общедоступные видео и другие материалы, чтобы создать убедительные дипфейки. Полиция отмечает, что это первый случай, когда жертву обманули при помощи группового дипфейка, а не в ходе общения один на один. Целью мошенников стал сотрудник финансового отдела филиала, который получил, по всей видимости, фишинговое сообщение. В середине января ему поступило требование якобы от финансового директора компании в Великобритании, заявившего, что необходимо провести секретную транзакцию. Сотрудник испытывал сомнения до того момента, пока его не пригласили на групповой созвон.
Там он увидел и якобы финансового директора компании, и других сотрудников.
Технологии искусственного интеллекта в скором времени позволят совмещать звук и изображение. Выглядеть это будет как видеозвонок от знакомого человека. Вы можете, к примеру, увидеть видео человека, который может делать всё, что угодно. Мошенники получают гибкий инструмент для манипуляции», — предупреждает эксперт.
Эльдар Муртазин считает, что необходимо как можно скорее принять меры по регулированию сферы искусственного интеллекта. В Китае, например, если создаётся искуственный персонаж, например ведущий ток-шоу, должно быть указано, что это не реальный человек, а картинка, синтезируемая программой. Подобное нужно делать и в России, поскольку люди начинают верить, что несуществующие персонажи являются обычными людьми», — уверен эксперт. В 2023 году мошенники похитили у граждан 19 млрд рублей. Люди не только отдают злоумышленникам свои кровные, но и берут для них деньги в долг.
По его словам, это связано с тем, что нейронные сети становятся все более доступными, значительно облегчают подделку контента и позволяют мошенникам с минимальными усилиями создавать убедительные фейки. Эксперты отмечают еще один источник данных для мошенников — это видеоконтент из соцсетей, который находится в свободном доступе, отмечают авторы исследования. Кроме того, с начала 2024 г.
Увеличение популярности мошеннических схем с применением техники социальной инженерии и дипфейков отмечают и исследователи компании F. По словам ведущего аналитика департамента Digital Risk Protection F. Евгения Егорова, в одном мошенническом сценарии злоумышленники заставляли детей отдавать курьерам сбережения семьи, используя смоделированный голос родственника.
Среди других распространенных способов мошенничества с использованием дипфейков и социальной инженерии Мельников назвал обход систем безопасности в сервисах с голосовой идентификацией, а также создание видеоконтента с использованием лиц и голосов знаменитостей. Последний способ, к примеру, используют для «продвижения» несуществующих инвестиционных проектов, добавляет старший исследователь данных «Лаборатории Касперского» Дмитрий Аникин.
И даже любителям текстовых теперь стоит задуматься, какие видео они публикуют в социальных сетях. Ведь для создания клона голоса достаточно записи длиной всего в несколько минут. Возьмем любой ваш сюжет, тут вы говорите что-то, мы возьмем этот голос, дальше закинем в программу", — рассказал специалист по информационной безопасности Роберт Симонян. Нейронная сеть думает и достаточно быстро выдает черновую версию.
По тексту, который ей написали. Похоже, кажется, близкие и родные, конечно, заметят разницу, а вот остальные — нет. Хотя это — стопроцентный фейк. От массового применения нового типа интернет-попрошайничества пока оберегают сами технологии. На создание копии голоса нейросети сейчас нужно много времени. Ну и также стоит понимать, что конечный результат тоже не всегда идеален, приходится что-то обрабатывать", — рассказал Симонян.
Полицейские показали, как мошенники подделывают свой голос
| Мошенники имитируют голос родственников с помощью искусственного интеллекта | IT-эксперты рассказали, как мошенники подделывают голоса россиян. |
| Мошенники подделали голос гендиректора фитнес-клуба в Москве и украли выручку | Чтобы подделать чей-то голос, мошенникам достаточно использовать недорогой онлайн-инструмент на базе искусственного интеллекта, который анализирует уникальные особенности голоса любого человека и воспроизводит его с учетом пола, возраста и даже акцента. |
| Центробанк: мошенники стали чаще имитировать голоса родных и знакомых россиян | Мошенники подделали голос гендиректора московского фитнес-клуба с помощью нейросети и украли выручку. |
Мошенники начали подделывать голоса: Луки.ру выяснили, смогут ли они оформить кредит в банке
Преступники заставляют жертв думать, что они разговаривают с родственником, которому вдруг понадобились деньги, например, на возмещение ущерба в результате ДТП. Кузьменко посоветовал сразу перезвонить своим родным и знакомым, от которых и была получена просьба. Еще лучше придумать кодовое слово, для своих, чтобы можно было понять: звонят родные, а не мошенники. При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Технология называется "дипфейк" от англ. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями.
Рассылки голосовых сообщений мошенники в России используют не очень часто, говорит директор технического департамента RTM Group, эксперт в области информационной безопасности и компьютерной криминалистики Федор Музалевский: — При записи телефонного разговора качество записи ограничено восемью килогерцами, что не всегда достаточно для корректного обучения тех же нейросетей. Помимо этого, длительность разговора будет заметно меньше, и она потребует вовлеченности злоумышленника, то есть будет отрывать его от производства. Плюс у нас в стране достаточно скептическое отношение к голосовым сообщениям. У нас некоторое время назад, может быть, месяц, были случаи, когда в корпоративной рассылке использовались голосовые сообщения, но это очень редко встречается, поэтому эффективность практически нулевая. То есть у нас ни в корпоративной культуре, ни в обиходе голосовые сообщения никогда не были и в настоящий момент не являются руководством к действию. Есть ряд людей, кто обмениваются между собой голосовыми сообщениями, но подделать и отправителя, влиться в переписку практически нереально. Поэтому основная защита от мошенников — это просто обычная бдительность и игнорирование голосовых сообщений от отправителей, которых вы не знаете. Авторы объявлений, которые предлагают людям записать свой голос для рекламы или других проектов, обычно просят предоставить аудиозапись, которую нужно отправить личным сообщением в мессенджере. За участие предлагают гонорар от 300 до 5000 рублей, при этом в некоторых случаях его действительно выплачивают жертве. Между тем «Сбер» предупредил о новой схеме мошенничества, которая осуществляется при помощи трансляции экрана смартфона.
Мошенники научились использовать искусственный интеллект для обмана граждан в телефонных разговорах. Какие схемы используют кибераферисты, рассказал агентству "Прайм" эксперт направления информационной безопасности Центра цифровой экспертизы Роскачества Сергей Кузьменко. Мошенники повторно обманывают россиян, пострадавших от фейковых криптобирж 1 июня 2023, 06:39 Клонирование голоса По словам специалиста, в данном случае речь идет не столько об искусственном интеллекте, сколько о нейросети с машинным обучением на основе искусственного интеллекта. Идентичность поражает настолько, что даже мать не сможет отличить голос своего ребенка от робота", — сказал эксперт. Схема обмана та же: ИИ звонит и просит перевести деньги. Преступники заставляют жертв думать, что они разговаривают с родственником, которому вдруг понадобились деньги, например, на возмещение ущерба в результате ДТП. Кузьменко посоветовал сразу перезвонить своим родным и знакомым, от которых и была получена просьба.
В целом, хотя развитие искусственного интеллекта может представлять новые риски для кибербезопасности, простые меры предосторожности и правовая защита могут помочь предотвратить неправомерное использование личной информации.
Мошенники придумали новую схему развода с подменой голоса. Будьте бдительны
Греф заявил, что это серьезная угроза, с которой человеку сложно бороться, сообщает RT. Он отметил, что с развитием технологий и искусственного интеллекта популярность таких уловок растет.
Мошенникам нужно получить доступ к аудиозаписям, которые могли быть опубликованы в социальных сетях или мессенджерах. Ну или еще как вариант — аферисты могут позвонить человеку, включить диктофон и очень долго разговаривать с ним по телефону. А после этого использовать записи в своих целях. Как получают доступ к контактам? Мошенники взламывают плохо защищенные аккаунты в социальных сетях и мессенджерах. Но, как рассказывает специалист, это довольно сложный путь и требует гораздо больше усилий и времени. И уже с этого аккаунта пишут жертвам своего обмана в мессенджерах или соцсетях. Если вы получили голосовое сообщение от знакомого, который просит выручить его деньгами, лучше всего перезвонить ему по тому номеру, который указан в записной книжке телефона, но не с того же канала связи, где было отправлено сообщение. Удостоверьтесь, действительно ли нужна ему помощь.
Еще один вариант — задать какой-то вопрос, ответ на который мошенник точно не знает. Например, спросите, когда вы виделись в последний раз, или какое прозвище есть у вашего общего знакомого. Например, недавно, моим коллегам от моего лица писали аферисты. Мол, какие-то базы данных утекли в сеть. Якобы вам должны позвонить правоохранители, которым нужно сообщить свои персональные данные, - рассказывает Алексей.
Для этого необходимо выкупить товар.
Деньги за него обещают вернуть и, разумеется, с надбавкой за работу. Дальше на выбор просят или перевести деньги за товар «продавцу» или же перейти на фишинговый сайт, который имитирует маркетплейс, оставить там свои данные карты и лишиться денег на ней QR-коды Достаточно новый способ мошенничества связан с подсовыванием жертвы QR-кода, переход по которому ведет на фишинговый сайт, неотличимый от настоящего. Там уже всё как обычно — оставляете данные карты и с неё всё списывают. Как избежать мошенничества? Разговор Разумеется, важно сохранять контроль над собой и своими действиями в первые минуты общения со звонящим. Если человек представляется сотрудником органов или банка, не стесняйтесь перезвонить в эту организацию — это как раз то, что вас настоятельно попросят не делать.
Настораживает, не так ли? Сами же не стесняйтесь как можно чаще обсуждать все такие случаи со своими родственниками, особенно пенсионерами, которые чаще всего и становятся жертвами. Оплата Если ваш банк позволяет завести виртуальную карту, то лучше завезти отдельную для каждого маркетплейса и пополнять её на стоимость покупки. Это настолько же легко, насколько и безопасно. Если ваш аккаунт будет взломан, если вы где-то засветите данные карты, то списать с неё будет нечего. Также поможет выставить в настройках запрос кода на покупку.
Разумеется, перед тем как что-либо оплатить, обратите внимание на адрес сайта. Он должен совпадать с известным вам адресом магазина, без замены «о» на 0 и подобного, без неожиданных тире и подчёркиваний. О других способах обмана телефонными мошенниками можно узнать тут. Больше интересных статей можно увидеть ниже в блоке «об авторе». А вы уже сталкивались с мошенниками в 2024 году?
Накатанные схемы уже не в моде, но работают По данным Центрального Банка РФ, в 2023 году злоумышленникам удалось украсть у россиян 15,8 миллиарда рублей. И несмотря на давно известные ухищрения и методы мошенников, самые наивные из граждан продолжают попадаться на крючок. Так, пенсионерка из Тюмени продала квартиру и отдала 12 миллионов рублей телефонным аферистам , убедившим ее перевести свои сбережения из якобы небезопасного банка на новый счет. Позднее, прямо на глаза у журналистов пожилая женщина решила отправить неизвестным еще одну крупную сумму денег. Мошенники зарабатывают миллиарды на доверчивых людях Источник: Полина Авдошина В свою очередь, волгоградец стал жертвой фейковой экскортницы и перевел злоумышленнику с женским голосом 97 000 рублей. Мошенником оказался житель Пензенской области, продающий несуществующие эротические услуги, имитируя голос проститутки и выбивающий с «клиентов» дополнительные средства. На смену таким незатейливым, но эффективным схемам обмана, приходят современные технологии, с возможностями которых знаком далеко не каждый простой человек. Зато злоумышленники уже успели изучить и опробовать для совершения преступлений такие новейшие разработки, как нейросети. Даже начинающие мошенники могут быть опасны Нейросети могут облегчить работу специалистам практически любой сферы, а значит, и автоматизировать часть действий киберпреступников. Растущий интерес среди злоумышленников к широким возможностям нейросетей выявили и эксперты по информационной безопасности. Аналитик «Лаборатории Касперского» Алиса Кулишенко рассказала, чем чат-боты могут быть полезны для мошенников. А злоумышленники, чтобы избежать их, формируют специальные запросы — джилбрейки. Много теневых площадок даркнета существуют в формате форумов, — поделилась Алиса Кулишенко. Раньше была нужна коммуникация между человеком и мошенником, но сейчас часть запросов может быть получена автоматически. Даже начинающие злоумышленники могут представлять угрозу за счет получения компетенции от языковых моделей. Специалисты по кибербезопасности предупреждают — нейросети уже используют для обмана пользователей Источник: Полина Авдошина Искусственный интеллект дает неограниченные возможности злоумышленникам создавать новые способы наживы над простым интернет-пользователем. И аферисты по максимуму экспериментируют с технологическими разработками. Используются они и для создания вредоносных ПО, — утверждает эксперт в области интернет-безопасности. Каждый месяц появляются новые и становятся всё более распространены и позиционируются как аналоги ChatGPT, но сразу со снятыми ограничениями. Угроза чат-ботов заключается в их способности генерирования фишинговых сообщений и разработке вредоносных ПО и задач. Какие еще инструменты нейросетей можно использовать для зловредных целей, подробнее рассказал руководитель группы исследований и разработки технологий машинного обучения «Лаборатории Касперского» Владислав Тушканов. Например, для завлечения человека нажать на какую-то ссылку, чтобы тот скачал вредоносный файл и так далее. Под удар попал даже мэр Марченко Искусство создания дипфейковых видео изучили не только мошенники, но и авторы волгоградских телеграм-каналов.
"Аудиодвойник" бизнесмена из Москвы обманом заполучил кассу его фитнес-клуба, пока он отдыхал
Мошенники для обмана россиян стали подделывать голоса родных и знакомых жертвы. Мошенники научились использовать современные технологии DeepFake для имитации голоса, сообщили в Роскачестве. сказал Пермяков, отметив, что пока злоумышленники чаще всего ограничиваются подделкой голоса. Главная» Общество» Волгоградцев предупредили о мошенниках, которые подделывают голоса. Мошенники стали подделывать голоса родных и знакомых для обмана россиян. Об этом пишет РИА «Новости» со ссылкой на пресс-службу Центробанка. В России активизировались мошенники, подделывающие голоса близких и коллег своих потенциальных жертв.
Телефонные мошенники стали подделывать номера и голоса родственников
| Мошенники научились подделывать аудио и видео с помощью ИИ - Москва 24 | С этой технологией мошенники подделывают голоса и изображения реальных людей, после чего звонят их друзьям, коллегам и подчиненным. |
| Мошенники научились подделывать голоса. Как не попасться на уловку | и аудиодипфейки. |
| Мошенники могут подделать чужой голос, чтобы украсть деньги | Теперь мошенники с помощью нейросетей могут подделывать голоса прямо во время разговора. |
| Мошенники подделывают голоса: как защитить свои биометрические данные? | Для того, чтобы научить его этому, мошенникам нужен образец голоса. |
| Эксперт по кибербезопасности Ефимов предупредил о возможности создать фейковую аудиозапись | В Электрогорске задержали мужчину, который при помощи голоса умудрился обогатиться более чем на четверть миллиона рублей. |
Мошенники начали использовать поддельные голоса родственников жертв
сказал Пермяков, отметив, что пока злоумышленники чаще всего ограничиваются подделкой голоса. В России активизировались мошенники, подделывающие голоса близких и коллег своих потенциальных жертв. Мошенники всё активнее используют нейросети, чтобы подделывать голоса или лица знакомых доверчивых граждан и своровать их кровные.
Полицейские показали, как мошенники подделывают свой голос
Другие — по ходу разговора, когда получатель больше всего сомневается в правдоподобности происходящего. Выбор метода зависит от содержания аудиосообщения, которое удалось смонтировать мошенникам. Если они склеили из старых фрагментов фразу вроде «Привет. Одолжи денег», ее отправляют в начале диалога. В остальных случаях действуют по ситуации. Преступники пока только осваивают новый метод. В день мы пресекаем одну-две попытки подобного обмана наших клиентов. Будьте бдительны и не переводите с ходу деньги, кто бы вас об этом ни просил.
Почему банк отказался возвращать деньги Когда знакомый узнал, что перевел деньги мошенникам, он стал писать и звонить в службы поддержки банков, чтобы оспорить перевод. Операторы его банка зафиксировали обращение, но отказались отменять транзакцию. Формально он перевел деньги добровольно, поэтому доказать мошенничество сложно. Ему посоветовали обратиться за помощью в банк-получатель, а также написать заявление в полицию. Банк, в котором мошенник оформил счет, тоже не мог просто так списать деньги с карты клиента и отправить пострадавшему.
Мошенники берут всю информацию из открытых источников — в первую очередь, из соцсетей. Например, в случае с гонконгской компанией сотрудники, именами которых воспользовались мошенники, активно вели свои страницы — выкладывали видеолекции со своим участием и личные фотографии. Как распознать подмену Распознать подмену голоса или видео на современном этапе сложно, но возможно. Руководитель департамента информационной безопасности Банки. У человека, который использует подменное видео, бывают аномалии в движениях: например, неестественная мимика. Также заметны несоответствия в фоне или свете. Необычное движение глаз. Собеседник с подменным видео редко моргает — деталь забавная, но работает безотказно. Некорректное сопоставление голоса и губ. Вызвать подозрение также должно несоответствие между движениями губ и произносимыми словами. Пока все нейросети, которые делают подменные видео и аудио, далеки от совершенства. Однако мошенники адаптируются и на этот случай.
Центробанк РФ составил список основных признаков телефонных мошенников. Также клиента должно насторожить, если разговор с незнакомцем касается перевода денег или оплаты чего-либо. Еще одним из признаков специалисты называют поступление от собеседника "выгодных" предложений или, наоборот, попытки запугать возможной потерей денег, а также сильное моральное давление и требование немедленного принятия решения. Можно ли распознать по голосу телефонного мошенника? Руководитель аналитического центра Zecurion Владимир Ульянов рассказал Москве 24, что мошеннические схемы, связанные с подменой голоса, встречаются в единичном варианте. По его словам, сейчас мошенники пользуются более простыми схемами, которые до сих пор, к сожалению, остаются эффективными. Речь идет об информации, которую они получают из-за утечек данных. Она происходит из систем госструктур или коммерческих компаний: розничных магазинов, банков, страховых. Имея определенную информацию о потенциальной жертве, мошенникам не представляет никакого труда получить код подтверждения или логин и пароль от интернет-банка. По его словам, мошенники знают, что люди неохотно говорят с силовиками, поэтому жертвы достаточно легко выдают информацию или совершают действия, которые от них требуют.
Если мошенники подошли к вопросу серьезно, то идентифицировать их можно будет только по нехарактерному для ваших родственников поведению. Номер можно подменить - на смартфоне он будет определяться как знакомый. Также мошенники могут создать похожий аккаунт мессенджера", - сказал Пермяков, отметив, что пока злоумышленники чаще всего ограничиваются подделкой голоса. Кража голосов Программы, с помощью которых можно синтезировать голос выбранного человека, уже широко распространены, предупредил эксперт. При этом все большую роль в этой сфере начинают играть нейросети - в ближайшее время с их помощью можно будет подделать внешность человека, что снизит доверие пользователей к видеозвонкам, считает он.
Как работает новая схема мошенничества с подделкой голоса
Мошенники используют записи телефонных звонков, в том числе разговоров с роботами, для подделки голоса в мошеннических целях. Эксперты по кибербезопасности отмечают рост использования аудиодипфейков для мошеннических звонков в мессенджерах — подделку голоса руководителя компании для авторизации перевода средств. Мошенники не подделывали ее голос, но использовали продуманную со всех сторон схему. Проверить подлинность подделанного голоса или видео можно лишь технически, предупреждает Семенычев.
Мошенник обманывал людей, подделывая голоса близких по телефону
| Мошенники придумали новую схему развода с подменой голоса. Будьте бдительны | Эксперт Кузьменко: мошенники начали использовать нейросети и дипфейки для обмана россиян. |
| Прозвони мне, прозвони. IT-эксперты рассказали, как мошенники подделывают голоса россиян | Мошенники вышли на новый уровень: они подделывают не только номера телефонов,но даже голоса звонящих! |
| Мошенники с помощью искусственного интеллекта запугивают родителей голосами родных детей | Мошенники всё активнее используют нейросети, чтобы подделывать голоса или лица знакомых доверчивых граждан и своровать их кровные. |