Звонок с того света: как мошенники используют дипфейки покойников
При помощи искусственного интеллекта злоумышленники создают цифровые копии умерших и используют их в своих целях. Об этом пишет ТАСС со ссылкой на Центр цифровой экспертизы Роскачества. Существует даже термин для таких мошеннических схем — «кибермистификация». Она сочетает методы социальной инженерии с ИИ-копиями и общением в мессенджерах.
Как выглядит афера с «ожившими» умершими и искусственным интеллектом
В Роскачестве пояснили, что технология цифрового «воскрешения» строится на нейросетевых алгоритмах, которые могут создавать интерактивные цифровые копии умерших людей. Изначально такие разработки создавались в терапевтических целях, чтобы помочь людям справиться с горем посредством символического «общения» с цифровой проекцией умершего. Но идея приглянулась мошенникам.
Они начали использовать технологию для воздействия на уязвимых людей, столкнувшихся со смертью близких. Киберпреступники задействуют симуляторы для скрытой рекламы или для манипуляций пользователями, внушая, что бот — это умерший родственник. Цифровые двойники могут просить о финансовой помощи, навязывать покупку определенных товаров или услуг.
Аккаунты умерших людей также превращаются в инструмент фишинговой рассылки. Если человек умер недавно, то не все его знакомые могут знать об этом, следовательно, люди будут общаться с цифровым двойником, не подозревая, что вступают в контакт с мошенниками. Злоумышленники рассылают голосовые и видеодипфейки умерших с различными просьбами.
Цифрового двойника также используют как реального человека для написания отзывов, рекомендаций, контакта с людьми в соцсетях. Главной площадкой для использования ИИ-копий остаются мессенджеры.
Кроме того, ботнеты, созданные из цифровых копий умерших людей, дают возможность злоумышленникам проводить масштабные DDoS-атаки или массово распространять нежелательный контент.
Куда цифровые покойники не пройдут
Отрадно, что использовать технологию для финансовых махинаций в банках или микрокредитных организациях у мошенников не получится. По словам экспертов, даже обученный на реальных данных человека нейробот не сможет пройти биометрическую верификацию и подтвердить согласие на получение микрозайма.
К тому же любая попытка применения биометрии предусматривает многофакторную защиту. Поэтому для удаленного открытия банковского счета нужно авторизоваться через «Госуслуги», посмотреть в камеру и произнести определенные последовательности цифр.
Заранее подготовленные фото, видео или дипфейк аферистам не помогут. Специальные алгоритмы быстро вычислят подделку и отличат реального пользователя от фейкового.
Как не попасться на уловки «оживших» мертвецов
По данным Gartner Inc., мировой рынок виртуальных личностей до 2035 года увеличится примерно в 11 раз. В настоящее время ИИ-копии людей применяются в самых разных сферах и пользуются в мировой практике огромным успехом. И мошенники уже взяли это направление в работу. Грань между человеческими и цифровыми образами благодаря развитию технологий стремительно стирается, что позволяет манипулировать людьми в личной, коммерческой и политической сферах, в также в общественной деятельности, отметила в беседе с «Известиями» Al-консультант и специалист аналитического центра кибербезопасности компании «Газинформсервис» Татьяна Буторина.
«Когда мошенники используют дипфейк живого человека, у жертвы всегда есть возможность проверить подлинность сообщения — например, связавшись альтернативным способом. Однако с цифровой копией умершего такая проверка невозможна в принципе. Это создает идеальные условия для преступников, ведь цифровой образ можно бесконтрольно использовать в мошеннических схемах, играя на эмоциях и доверии людей», — рассказал заместитель руководителя Центра цифровой экспертизы Роскачества Георгий Тарачев.
Как правило пользователи не ожидают угрозы от ИИ-копий умерших людей, пояснил «Известиям» аналитик данных Координационного центра доменов .RU/.РФ Евгений Панков. Люди обычно доверяют образу умершего близкого или кумира, они не подвергают их сообщения и советы критическому анализу. Злоумышленники используют эмоциональную уязвимость человека и «эффект доверия», чтобы добиться нужных действий: переходов по ссылкам, передачи кодов или перевода средств.
Несмотря на горечь утраты и тяжелое эмоциональное состояние, эксперты советуют опираться на здравый смысл и логику — только так можно избежать ловушек, ловко расставленных мошенниками.
Ранее мы писали о том, как уберечь детей от мошенников в интернете.
Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».