Теги:
Мошенники придумали новый метод обмана граждан с помощью искусственного интеллекта. Теперь они используют нейросети, чтобы создать цифровые копии умерших, и используют их для воздействия на уязвимых людей, переживающих утрату.
В Центре цифровой экспертизы Роскачества рассказали:
Технология цифрового «воскрешения» основана на нейросетевых алгоритмах, способных создавать интерактивные цифровые копии умерших людей. <...> Изначально подобные разработки создавались в терапевтических целях, чтобы помочь людям в преодолении тяжелой утраты через символическое «общение» с цифровой проекцией умершего. Однако, как это часто происходит с перспективными технологиями, механизм быстро привлек внимание мошенников.
По словам экспертам, компании или киберпреступники используют эти симуляторы для скрытой рекламы или для манипуляций пользователями. Злоумышленники внушают скорбящим людям, что бот – это действительно их умерший родственник. Цифровые копии могут убеждать родственников, что им нужна «финансовая помощь» или рекомендовать приобрести определенные товары или услуги, объяснили в Роскачестве.
Также с помощью нейробота, обученного на реальных данных человека, мошенники могут пройти биометрическую верификацию в некоторых системах, подтвердить голосом или онлайн-присутствием согласие на получение микрозайма или даже подписать электронный документ.
Мошенники могут использовать аккаунты умерших людей и для фишинговой рассылки от их имени, поскольку сообщения от аккаунта с заполненным профилем в соцсетях и историей переписок в мессенджерах не вызовут подозрений у потенциальных жертв. Создавая ботнетов из цифровых копий умерших людей, злоумышленники получают возможность проводить масштабные DDoS-атаки или массово распространять нежелательный контент.
Заместитель руководителя Центра цифровой экспертизы Роскачества Георгий Тарачев отмечает, что при создании дипфейка живого человека жертвы может проверить подлинность сообщения – например, связаться со знакомым альтернативным способом.
Однако с цифровой копией умершего такая проверка невозможна в принципе. Это создает идеальные условия для преступников, ведь цифровой образ можно бесконтрольно использовать в мошеннических схемах, играя на эмоциях и доверии людей.
Напомним, что в даркнете начали предлагать услуги по созданию дипфейков в режиме реального времени. А в конце августа МВД рассказывало про схему обмана с этой технологией.
Источник: ТАСС