РИАМО: Развитие генеративного ИИ расширяет инструменты злоумышленников

Развитие генеративного искусственного интеллекта (ИИ) расширяет возможности пользователей в разных сферах — от работы с информацией до создания нового контента. Однако те же технологии осваивают и злоумышленники.

Написание убедительного текста, подделка голоса, изображения или видео требуют от аферистов меньше времени и специальных знаний, рассказали РИАМО в пресс-службе Центра биометрических технологий.

В организации отметили, что современные ИИ-модели способны создавать сообщения от имени банка, работодателя, маркетплейса или государственного ведомства и адаптировать их под обстоятельства конкретного человека.

Синтез речи позволяет имитировать голос родственника, коллеги или руководителя по фрагментам из социальных сетей, голосовых сообщений и публичных выступлений. Аналогичным образом создаются изображения и видео, приписывающие человеку слова, которые он не произносил.

Особенно убедительными могут быть комбинированные сценарии. Например, сначала человеку пишет якобы знакомый сотрудник, затем приходит сообщение от «начальника», а после звонит «представитель службы безопасности».

При этом качественный дипфейк остается элементом легенды, который помогает убедить человека, но не предоставляет доступа к банковскому счету или госсервису.

Подобные технологии лишь усиливают давление на потенциальную жертву, повышая доверие к вымышленной ситуации, однако конечной целью мошенников всегда остается получение персональных данных или денежных средств через действия самого пользователя.

Как ранее писала Общественная служба новостей, Кулебакский городской суд Нижегородской области вынес приговор женщине, которая обманом оформила на знакомую три банковских кредита.

Мошенники все чаще скрывают вредоносное программное обеспечение, используя вместо файлов ссылки на всплывающие окна.