В статье рассказывается о том, как мошенники используют технологию подделки голоса для обмана людей и получения доступа к их биометрическим данным. Мошенники убедили врача оформить три кредита и перевести все свои деньги на неизвестные счета, напугав списанием средств в пользу Украины и ВСУ. С этой технологией мошенники подделывают голоса и изображения реальных людей, после чего звонят их друзьям, коллегам и подчиненным. «Таймырский телеграф» – Мошенники продолжают совершенствоваться: теперь они стали использовать специальную программу, с помощью которой подделывают голоса.
Мошенник обманывал людей, подделывая голоса близких по телефону
Сотрудница не сразу поверила собеседнику и попросила совета у коллеги с большим стажем. Та подтвердила, что это голос владельца клуба. Тогда работница согласилась отдать 155 тысяч рублей, которые были в кассе. А спустя полчаса явился курьер и забрал деньги.
Такие случаи становятся массовыми На слушаниях по ИИ в Сенате США выступила мать двух девочек, одну из которых «виртуально похищали» мошенники. В качестве доказательства они использовали клонированный с помощью ИИ голос ребёнка. Клон голоса На слушаниях в Сенате США , посвящённых угрозам, проистекающим из злоупотребления технологиями искусственного интеллекта, выступила женщина из Аризоны , едва не ставшая жертвой жестокой атаки мошенников , пытавшихся убедить её в том, что её дочь похищена. Спустя несколько минут выяснилось, что ребёнок жив, здоров и невредим, и что никакого похищения не было. Полиция в итоге отказалась возбуждать дело, посчитав звонок пранком. Самой же матери это стоило тяжёлого нервного срыва. Та с паническими интонациями крикнула, что она «напортачила», после чего ДеСтефано услышала её плач, а затем раздался угрожающий мужской голос, заявивший, что девочка у него.
Мошенники с использованием клонированного голоса заявили Дженнифер ДеСтефано справа , что похитили ее дочь Брианну слева Для пущей убедительности матери дали послушать голос дочери, умолявшей о помощи, после чего дали инструкции, куда приехать с выкупом, предупредив, что если денег не окажется, умрут и мать, и дочь. Требования матери дать ей возможность поговорить с дочерью злоумышленники проигнорировали.
Возьмем любой ваш сюжет, тут вы говорите что-то, мы возьмем этот голос, дальше закинем в программу", — рассказал специалист по информационной безопасности Роберт Симонян. Нейронная сеть думает и достаточно быстро выдает черновую версию. По тексту, который ей написали. Похоже, кажется, близкие и родные, конечно, заметят разницу, а вот остальные — нет. Хотя это — стопроцентный фейк. От массового применения нового типа интернет-попрошайничества пока оберегают сами технологии.
На создание копии голоса нейросети сейчас нужно много времени. Ну и также стоит понимать, что конечный результат тоже не всегда идеален, приходится что-то обрабатывать", — рассказал Симонян. Подделку голоса можно отличить как раз по чрезмерной обработке. Если в записи сильно шумит ветер, громко едут машины, лают собаки — стоит насторожиться.
Так нейросеть учится копировать голос. Трухачев добавил, что эти технологии также используют для создания информационных вбросов. Например, копируют речь президента или других известных личностей. В таком случае, по словам эксперта, нужно перезвонить на настоящий номер человека и уточнить, так ли это на самом деле. Сергей добавил, что преступники для подделки голоса используют видео.
ЦБ: мошенники научились имитировать гoлоса родных потенциальной жертвы
В 2020 году мошенники клонировали голос директора банка в ОАЭ и использовали его для ограбления финучреждения. «Атаковали даже мэра Марченко»: мошенники подделывают голоса и лица жителей Волгограда с помощью нейросетей. Для подделки голосов мошенники используют нейросеть, отметил Андрей Ефимов Фото: Александр Елизаров © Оформить ссуду с помощью подделки голоса мошенники, скорее всего, не могут, утверждает юрист Евгения Боднар. Телефонные мошенники в России все чаще подделывают голоса родственников и знакомых своих жертв. Также развивается технология deepfake: преступники подделывают голос близких людей жертв.
Центробанк: мошенники стали чаще имитировать голоса родных и знакомых россиян
Например, позвонивший вам в мессенджер ребенок, родственник или знакомый просит срочно перевести небольшую сумму денег. Причина может быть какая угодно — ребенку срочно нужно сделать подарок другу или учительнице, пожилому родственнику не хватает небольшой суммы на покупку лекарств в аптеке. Звонивший под разными предлогами уговаривает отправить деньги на чужую карту или перевести их по чужому номеру телефона. Мошенник легко оправдается, почему перевод нужно осуществить другому человеку — можно сказать, что это счет продавца, друга, который находится рядом или что телефон разрядился. Нередко злоумышленники звонят в ночное время, чтобы застать жертву врасплох.
Обычно речь идет о небольшой сумме, поэтому вопросов у жертвы не возникает и, как следствие, деньги попадают в руки мошенников. Можно ли защититься от нового вида мошенничества? Эксперты Центра цифровой экспертизы Роскачества подготовили 10 правил цифровой безопасности, которые помогут вам не попасться на новую мошенническую схему: - Не отвечайте на звонки с подозрительных номеров, чтобы не дать возможности украсть ваш голос. Можно воспользоваться услугой защиты от спама и мошенников от операторов мобильной связи; - Помните, подделку голоса можно отличить по чрезмерной обработке.
Если в записи сильно шумит ветер, громко едут машины, лают собаки — стоит насторожиться. Но главное: голос нейросети звучит немного механически и безэмоционально; - Спросите у звонящего какой-то факт, который должен быть известен только вам и ему. Сергей Кузьменко, руководитель Центра цифровой экспертизы Роскачества: «Схемы мошенничества остаются неизменными, однако использование современных технологий во многом развязывает руки злоумышленникам, что позволяет им старые успешные схемы подавать под новым углом. В наше время каждый, у кого есть смартфон и любая сумма денег на счету, становится потенциальной жертвой аферистов.
По его словам, злоумышленники используют технологии искусственного интеллекта, так называемой технологии дипфейк, когда могут быть смоделированы изображение и голос человека, передает РИА Новости. Греф заявил, что это серьезная угроза, с которой человеку сложно бороться, сообщает RT.
Там он увидел и якобы финансового директора компании, и других сотрудников. После этого он сделал запрос в штаб-квартиру компании и понял, что был обманут. Во время видеозвонка его участники практически не общались с сотрудником, а по большей части давали ему указания.
В какой-то момент встреча внезапно завершилась, но и это не смутило работника. После этого мошенники поддерживали связь с жертвой через платформы обмена мгновенными сообщениями, электронную почту и видеозвонки один на один. В полиции сообщили, что в общей сложности они обратились к двум или трём сотрудникам компании.
Заинтересованная жертва вступает в чат, где другие «коллеги» обсуждают выполнение заданий. Сомневаются, успокаивают друг друга. Жертва ставит лайки, шлёт их скриншоты и видит скриншоты других. Получает свои небольшие деньги на карту! Отлично, первый уровень пройден, появилось доверие к источнику небольшого, но заработка. На следующий день задание усложняется, теперь надо набить количество заказов. Для этого необходимо выкупить товар.
Деньги за него обещают вернуть и, разумеется, с надбавкой за работу. Дальше на выбор просят или перевести деньги за товар «продавцу» или же перейти на фишинговый сайт, который имитирует маркетплейс, оставить там свои данные карты и лишиться денег на ней QR-коды Достаточно новый способ мошенничества связан с подсовыванием жертвы QR-кода, переход по которому ведет на фишинговый сайт, неотличимый от настоящего. Там уже всё как обычно — оставляете данные карты и с неё всё списывают. Как избежать мошенничества? Разговор Разумеется, важно сохранять контроль над собой и своими действиями в первые минуты общения со звонящим. Если человек представляется сотрудником органов или банка, не стесняйтесь перезвонить в эту организацию — это как раз то, что вас настоятельно попросят не делать. Настораживает, не так ли? Сами же не стесняйтесь как можно чаще обсуждать все такие случаи со своими родственниками, особенно пенсионерами, которые чаще всего и становятся жертвами. Оплата Если ваш банк позволяет завести виртуальную карту, то лучше завезти отдельную для каждого маркетплейса и пополнять её на стоимость покупки. Это настолько же легко, насколько и безопасно.
Если ваш аккаунт будет взломан, если вы где-то засветите данные карты, то списать с неё будет нечего.
В Роскачестве дали советы, как защитить свои биометрические данные от мошенников
Естественно, ни в какую аварию тот не попадал. Второй была девушка, решившая продать дорогой браслет Bulgari с бриллиантами за 500 тысяч рублей. С ней связались мошенники, изобразили покупателей и предложили перевести деньги на карту подруги у девушки не было доступа к своей карте , попросив ее номер телефона. Через какое-то время с этого номера позвонила будто бы та самая подруга и подтвердила перевод. Девушка отдала мошенникам браслет и уже позже узнала, что на самом деле разговаривала не с подругой, а с нейросетью. Действуют преступники следующим образом.
И таким образом, вы будете знать, что звонят действительно родные и близки, а не мошенники с нейросетью. Имитация образа Подделать можно не только голос, но и образ. При помощи методики синтеза медиаконтента, основанной на искусственном интеллекте, удается наложить ненастоящие изображение или видео на реальные. Ее продукты можно видеть в сети уже сейчас, часто в качестве пародий и розыгрышей. За рубежом злоумышленники опробовали дипфейки при устройстве на удаленную работу в сфере IT для получения доступа к базам данных. Однако созданные видеоклоны выдают свою искусственность темпом речи, асинхронностью и неестественными эмоциями. Сергей Кузьменко, руководитель направления информационной безопасности Центра цифровой экспертизы Роскачества: «Новые технологии используются не только передовыми IT-компаниями, но и вовсю группами мошенников. Волна дипфейков уже захлестнула Юго-Восточную Азию и Африку. До России она тоже непременно дойдет в ближайшее время и будет работать по схеме звонков якобы родственников, например, пожилым людям.
Мошенники получали доступ к аккаунту пользователя, просматривали историю переписок, чтобы максимально скопировать манеру общения реального человека, и отправляли людям из списка контактов сообщения с просьбой перевести деньги. Для убедительности после нескольких текстовых сообщений они присылали голосовое, которое или было сгенерировано с помощью искусственного интеллекта, или смонтировано из фрагментов старых аудиосообщений из переписок. Как защитить свой голос от мошенников? Юрист по интеллектуальной собственности Анна Лапа в разговоре с «Постньюс» отметила, что чей-либо голос защитить никак нельзя, но и отобрать его — тоже. Она подчеркнула, что нельзя заставить человека подписать договор и сказать ему: «Теперь ты не можешь пользоваться своим голосом». Однако в случае с записью голоса ситуация другая, пояснила эксперт, поскольку это уже материальная фиксация голоса, которая может считаться одним из видов фонограммы. Запись речи человека без его согласия и ее использование является нарушением, однако, отметила юрист, противостоять сбору таких данных и их распространению очень сложно, особенно, если об этом стало известно постфактум. Чтобы избежать незаконной записи голоса, юрист советует поставить определитель номера, не отвечать на звонки с незнакомых номеров или не отвечать голосом, пока собеседник не объяснит цель звонка. Что делать, если мошенники записали ваш голос? Но в том случае девушка заключила договор, который был нарушен второй стороной. Актриса записала голос для обучения ИИ банка, а им озвучили порно. Как такое возможно? Татьяна Красногорская пояснила, что голос человека с точки зрения права относится к биометрическим персональным данным и подлежит шифрованию. Эксперт добавила, что если голос попал в руки мошенников из-за утечки данных оператора связи или банка, можно подать иск в суд о компенсации морального вреда, но ее сумма будет формальной — в среднем до 10 тыс.
Вот так аукнулось развитие искусственного интеллекта. Поэтому нужно знать схемы, чтобы на них не попадаться. Об этом «Газете. Ru» рассказал директор направления кибербезопасности EdgeЦентр Артем Избаенков.
Не дайте себя обмануть! Что придумали телефонные мошенники в 2024г: нейросети, QR и маркетплейсы
Мошенники научились использовать современные технологии DeepFake для имитации голоса, сообщили в Роскачестве. Оформить ссуду с помощью подделки голоса мошенники, скорее всего, не могут, утверждает юрист Евгения Боднар. Тем более что мошенники научились даже подделывать голоса, используя специальные программы. С помощью поддельного голоса подруги мошенники смогли похитить браслет Bulgari стоимостью полмиллиона у простой и безработной студентки из Москвы. Благодаря бурно развивающемуся искусственному интеллекту (ИИ) мошенники теперь способны воспроизвести голос знакомого человека, а в некоторых случаях даже его лицо. Стоит мошеннику загрузить короткий образец аудиоролика из сообщения в социальной сети или голосовой почты (всего 30 секунд), и он может использовать инструменты синтеза голоса с помощью искусственного интеллекта.
Роскачество предупредило о новой мошеннической схеме с использованием искусственного интеллекта
Тем более что мошенники научились даже подделывать голоса, используя специальные программы. Уже известны случаи, когда подделывали голос человека и даже внешность. Руководитель британской фирмы не сомневался, что разговаривает со своим руководителем, он узнал акцент и тембр голоса начальника. Мошенники подделали голос директора компании с помощью искусственного интеллекта и украли 243 тысячи долларов. Мошенники подделали голос гендиректора московского фитнес-клуба с помощью нейросети и украли выручку.
Мошенники с помощью искусственного интеллекта запугивают родителей голосами родных детей
Как объяснила другой эксперт НТИ, директор по развитию и цифровой трансформации компании EKF Татьяна Мосендз, в создании голосовых сообщений для обмана используются нейросети - с их помощью можно генерировать нужные фрагменты, используя соответствующий датасет с образцами голоса. По ее словам, на данный момент единственный средством борьбы против нейросетей в этом случае должен стать человеческий ум. Нужно улавливать речевые обороты своих близких, оценивать саму ситуацию и повод, сопоставлять факты. Чтобы первыми узнавать о главных событиях в Ленинградской области - подписывайтесь на канал 47news в Telegram Увидели опечатку?
Его подозревают в совершении мошенничества ч. В дежурную часть полиции Кизела обратилась 87-летняя местная жительница, которая рассказала, что ей на стационарный телефон позвонила неизвестная девушка. Голос звонившей был похож на голос ее внучки.
Незнакомка рассказала, что стала виновницей ДТП и ей нужна помощь. Позже пенсионерке позвонил мужчина, представился следователем и заявил, что нужно заплатить крупную сумму, чтобы девушку не привлекли к уголовной ответственности.
Мошенники массово воруют голоса россиян. Как не стать их жертвой? Примечательно, что образцы чужих голосов к ним попадают вполне легальным путем, к которому с точки зрения закона практически невозможно предъявить претензий. Вместе с юристами мы разбираемся, как россиянам обезопасить себя от новой мошеннической схемы и что делать, если вы все же стали жертвой. Как мошенники научились подделывать голос с помощью нейросети? Новая схема опасна тем, что она не выглядит как обман и работает абсолютно легально. Мошенники размещают объявления о поиске людей для озвучки рекламных роликов или даже фрагментов фильмов или сериалов.
За эту работу, разумеется, предусмотрена оплата, которую, как правило, люди действительно получают — именно поэтому никаких подозрений подобные схемы не вызывают. Проблемы начинаются уже после отправки голосовой записи и получения оплаты за нее. Злоумышленники используют полученные образцы голосов для обучения нейросетей, которые впоследствии генерируют голосовые сообщения, которые практически невозможно отличить от настоящих. Их они рассылают знакомым и близким жертвы, выманивая деньги под разными предлогами. Как мошенники записывают голоса других людей? Это не единственная преступная схема с использованием голосовых записей жертвы для кражи денег у его знакомых. Еще в январе пользователи Telegram столкнулись с похожим, но чуть более примитивным алгоритмом обмана.
Между тем «Сбер» предупредил о новой схеме мошенничества, которая осуществляется при помощи трансляции экрана смартфона. Она выглядит так: мошенники звонят в мессенджер с фейкового аккаунта с номером 900 и логотипом банка и спрашивают, обновлял ли пользователь приложение банка. Затем человеку звонит второй злоумышленник, якобы для идентификации личности клиента по биометрии. Он просит включить режим демонстрации экрана и зайти в мобильное приложение банка. Трансляция экрана позволяет мошенникам увидеть номера карт, суммы на счетах, коды в смс от банка и другую информацию. Данный способ мошенничества появился около двух месяцев назад, рассказывает эксперт по информационной безопасности, генеральный директор Phishman Алексей Горелкин. Алексей Горелкин эксперт по информационной безопасности, гендиректор Phishman «Такой способ был, он применялся на школьниках: покажите, а что у вас за карта, а у ваших родителей какие карты, зайдите к себе в телефон, в общем, была такая схема, чтобы люди, которые не шибко разбираются в цифровых технологиях, но при этом имеют доступ к устройству родителей, могли предоставить злоумышленникам необходимую информацию. Я надеюсь, что такая схема все-таки не самая рабочая, потому что людей должны настораживать такие действия, которые ранее от них не просил ни банк, ни кто-либо еще. Благодаря в том числе просветительской деятельности, все меньше и меньше получается успешных атак. Злоумышленники почему и усложняют свои атаки, делают звонки не с одного номера, а с двух, трех, четырех, там ФСБ как будто звонит, кто-то еще как будто звонит.