Фото: freepik / freepik
Искусственным интеллектом сегодня сложно кого-то удивить: его используют в образовании, в медицине, в IT-индустрии и во многих других областях человеческой деятельности. Воспринимается это уже скорее как обыденная данность, чем какое-то фантастическое новшество.
Поэтому неудивительно и то, что среди всех прочих им активно пользуются и мошенники. Известно, например, что злоумышленники при помощи нейросетей создают дипфейки: поддельные голосовые и видеозаписи с человеком, на которых тот просит, скажем, помочь деньгами после несчастного случая, и которые затем отправляют его друзьям и родственникам с реквизитами подставного счета. Подобных мошеннических схем существует много, и от них постоянно страдают кошельки россиян и людей по всему миру.
Впрочем, одними только дипфейками сфера применения ИИ в преступных целях не ограничивается, говорит руководитель аналитического центра компании Zecurion, эксперт по кибербезопасности Владимир Ульянов. По его словам, мошенники используют языковые модели искусственного интеллекта и для продумывания своих схем, написания завлекающих сообщений и объявлений, генерации правдоподобных фото, давящих на жалость, а также для автоматизации обзвонов и рассылок. Об этом и о главном способе защиты от вооруженных нейросетями злоумышленников эксперт рассказал Общественной службе новостей.
«Беда даже не в том, что мошенники знают, как использовать искусственный интеллект в мошеннических схемах. Они могут использовать его и для того, чтобы такую схему придумать. То есть, даже если мошеннику не хватает опыта и креативности, искусственный интеллект восполняет этот недостаток. Даже на самом базовом уровне формирования инфоповодов – если нет ничего подходящего, то ИИ напишет скрипт или письмо, которое будет попадать в пожелания пользователей», — говорит собеседник издания.
Эксперт пояснил: любая мошенническая схема разворачивается в три шага. Первый – завладеть вниманием потенциальной жертвы, чтобы человек не удалил письмо или не сбросил звонок. Второй – убедить его в том, что речь идет о чем-то реальном: некой ситуации, праздничной акции, чрезвычайном происшествии и так далее. И третий шаг – заставить жертву совершить целевое действие: перевести деньги, продиктовать код, скачать какое-то приложение и сделать что-то еще.
Собственно ИИ мошенники могут использовать на каждом из этих шагов, отметил Ульянов.
«Плюс к тому, это средство автоматизации. Это инструмент, который работает 24/7. У него не бывает усталости. Если мошенник сам будет обзванивать людей или делает рассылки, то понятно, что возможности у него ограничены. А у искусственного интеллекта ресурс фактически безграничный. Если есть база контактов и инструментарий, то он будет круглосуточно стучаться к потенциальным жертвам с очень высокой интенсивностью», — добавил он.
Возможность генерировать фейковые изображения и аудио- и видеозаписи людей при помощи ИИ также открывает злоумышленникам новые возможности, добавил аналитик.
Во-первых, опасность представляют уже упомянутые дипфейки. Эксперт указал, что для копирования голоса человека достаточно 20-30-секундной записи его речи – заполучив ее, мошенники при помощи нейросетей могут не только создавать готовые голосовые сообщения, но и в реальном времени «говорить» украденным голосом с потенциальными жертвами. С видео дела пока обстоят не столь пугающе – создать правдоподобный цифровой «слепок», который будет имитировать реальную личность по видеозвонку, технически сложно, поэтому тут схемы обмана зачастую ограничиваются заранее сгенерированными дипфейк-видео.
Во-вторых, генеративные модели позволяют мошенникам создавать более-менее правдоподобные и уникальные фотографии и изображения. Если раньше фейковый аккаунт можно было проверить, поискав его аватарку в Интернете – часто обнаруживалось, что фото используется сразу в нескольких профилях и на самом деле принадлежит другому человеку, порой вообще из другой страны – то теперь злоумышленник может скрываться под сгенерированным ИИ изображением, которое ранее нигде не появлялось.
«То же самое – какие-то просьбы о помощи пострадавшим людям с их фото и видео. Все это достаточно просто генерируются. В Сети картинки не ищутся, поэтому выглядят относительно правдоподобными. Если они рассылаются через более-менее доверенные каналы, и сам инфоповод выглядит реальным, есть реальный риск принять их за что-то настоящее», — говорит собеседник издания.
Ульянов заметил: на уровне модерации отличить добросовестного пользователя ИИ от мошенника довольно проблематично. Внутренним фильтром тут выступают разработчики, которые прописывают правила пользования и устанавливают ограничения, однако все это при желании можно обойти.
Для этого, объясняет эксперт, злоумышленники могут использовать локальные модели с измененными настройками, либо попросту обманывать публичный искусственный интеллект. Так, если напрямую помогать в придумывании мошеннической схемы стандартная нейросеть откажется, то мошенники могут попытаться уговорить ее, сказав, что сделать это нужно в добросовестных целях – тогда она вполне может поддаться и сгенерировать для них все, что они попросят.
Бороться с этим разработчики могут, лишь вводя все больше и больше ограничений, однако в конечном итоге это может навредить и законопослушным пользователям. Поэтому главное средство защиты от мошенничества сегодня – это классическая информационная гигиена, подчеркнул эксперт.
«Основа информационной безопасности – это действительно базовые вещи. Самый главный фильтр должен быть у человека в голове. Если он работает некорректно, то мошенники смогут реализовывать свои схемы и без инструментов на основе искусственного интеллекта, — говорит он. — Поэтому очень важно повышать осведомленность широкого круга людей о существующих мошеннических схемах и технологиях, которые в них используются. Часто обман случается, потому что человек не очень понимает, что происходит: он не разбирается в технологиях, а на него еще и психологически давят. Если человек будет достаточно подготовлен и квалифицирован, будет понимать, как устроена система, какие действия делать не нужно, то, конечно, он будет реже попадаться на уловки. Хотя, конечно, полностью риски это не исключает».
Главное правило цифровой гигиены – это проверка информации и ее источников, указал Ульянов. При малейшем подозрении полученную ссылку или просьбу о помощи, либо звонок с каким-то предложением или требованием нужно перепроверить: связаться с отправителем лично, если это кто-то знакомый, перезвонить в компанию, сотрудником которой представился звонящий, попросить дополнительных подтверждений и так далее. Реальный человек или добросовестная организация смогут предоставить доказательства, мошенник – нет.
Что до незнакомых ссылок, которые встречаются на просторах Интернета, в том числе в домовых чатах и на вроде бы безопасных сайтах – доверие к ним должно быть минимальным, подчеркнул аналитик.
Он также добавил, что помимо ИИ-инструментов мошенники сегодня пользуются и старыми методами – в частности, психологическими уловками и социальной инженерией. Если незнакомец в Сети или по телефону оказывает психологическое давление, говорит о срочности и требует совершить действие здесь и сейчас – это почти наверняка злоумышленник, отметил специалист.
«Кроме этого, явных универсальных рекомендаций нет. Мошенники очень чутко отслеживают настроения в обществе и отвечают на текущую повестку, используют актуальные инфоповоды. Это позволяет им пройти как минимум первый этап мошеннической схемы, то есть заинтересовать жертву. А дальше вступают в действие уже другие инструменты. Например, сейчас, к концу осени, будут различные скидки, акции и распродажи. И на этом фоне будет очень много как реальной рекламы, так и объявлений от мошенников, которые всегда там, где есть деньги и интерес со стороны широкого круга людей», — резюмировал собеседник издания.
Читайте также:
Премьер-министр Польши Дональд Туск заявил, что после разговора финского лидера Александера Стубба с российским президентом Владимиром Путиным в Европе появился «умеренный оптимизм» относительно предстоящих переговоров по урегулированию украинского конфликта в…
Вице-премьер РФ Александр Новак во время выступления в эфире Первого канала заявил о том, что первые партии российского дизельного топлива могут быть доставлены на американское побережье к 3 ноября —…
Вице-премьер РФ Александр Новак сообщил, что четвертый танкер с российским дизельным топливом планируется отправить на экспорт 28 октября. Об этом он заявил в кулуарах саммита Форума стран — экспортеров газа,…
Президент РФ Владимир Путин заявил, что Россия прорабатывает возможность совместной работы с США в газовой сфере в Арктике. Об этом он сообщил во время выступления на газовом форуме. Путин назвал…
Президент РФ Владимир Путин заявил о необходимости задуматься над прекращением продолжающихся конфликтов и снятием санкционных ограничений для обеспечения стабильности мирового газового рынка. Об этом он сказал на саммите Форума стран…
Президент РФ Владимир Путин прокомментировал природу ограничительных мер, отметив, что они зачастую служат инструментом недобросовестной конкуренции. Об этом глава государства сказал в ходе выступления, его цитату приводит ТАСС. По оценке…