Старая песенка из фильма «Приключения Электроника», в которой есть строчка «Вкалывают роботы, а не человек», сегодня очень актуальна. Зачем напрягаться, если можно найти программу (и не одну), задать алгоритм искусственному интеллекту — и зарабатывать легко, беззаботно. Один нюанс — пока не вычислят. И как честным гражданам не угодить в сети к современным обманщикам?
Корреспондент MIR24.TV провел мини-опрос среди экспертов, работающих непосредственно с ИИ.
Какими алгоритмами и программами могут пользоваться мошенники для создания фейков и дипфейков?
Мнение совпало — практически все респонденты указали, в первую очередь, на генеративно-состязательные сети (GAN).
Павел Коваленко
директор центра противодействия мошенничеству
Для создания дипфейков мошенники пользуются искусственным интеллектом. Многие модели работают бесплатно и при этом дают качественный результат, что значительно повышает количество создаваемых дипфейков и снижает порог входа в киберпреступную деятельность. Существуют множество программ и ботов, которые работают прямо в мессенджерах и позволяют оперативно создавать дипфейки. Основой для них становятся лицо и голос конкретного человека. Для этого мошенники берут фото, видео и аудио из социальных сетей. Затем связываются с потенциальными жертвами, например, друзьями, родственниками и коллегами, просят деньги или сообщают фейковую информацию
Доступность и скорость в достижении результатов — все перечисленное играет на руку хитрым личностям. И открытые для всех пользователей личные страницы в социальных сетях, без специальных настроек приватности, становятся хорошим источником визуальных материалов для преступников.
Екатерина Корнюшина
эксперт по управлению инновационными проектами, разработке AI-технологий в сфере информационной безопасности и антифрод-решений
Мошенники используют открытые и коммерческие генеративные модели. Эти инструменты доступны даже без глубоких технических знаний. Генерация качественного дипфейка сейчас занимает часы, а не недели, а фейковый голос — считанные минуты
Егор Богданов
основатель ИТ-компании
Кроме того, злоумышленники используют профессиональное программное обеспечение для обработки видео, включая Adobe Premiere и After Effects
Фото: Shutterstock/FOTODOM
Как распознать фальшивку?
Нужно различать два аспекта — технический и поведенческий.
Павел Коваленко
директор центра противодействия мошенничеству
Дипфейки становятся все более качественными. При этом фальшивки все еще можно определить по некоторым признакам. Во-первых, странная речь и неестественные движения. Алгоритмы ИИ не идеальны, поэтому в речи цифровых копий возникают паузы в ненужных местах, неуместные интонации. То же самое касается и движений, положения частей тела. Во-вторых, стоит обращать внимание на фон, так как именно в нем часто кроются несовершенства подделок – неправильная геометрия зданий и объектов, непонятные предметы. В-третьих, низкое качество изображения также может быть свидетельством фейка – таким способом преступники пытаются скрыть изъяны сгенерированного контента
Екатерина Корнюшина перечислила технические методы, которые могут помочь определить подлинность.
• Анализ артефактов: нереалистичная мимика, искажения глаз или зубов, тени, разрывы на границах лица. • Анализ метаданных: отсутствие EXIF-информации или признаки ее редактирования. • Синхронизация аудио и видео: рассинхрон губ и голоса. • AI-детекторы: aIDeepFake, Microsoft Video Authenticator, Intel FakeCatcher, Deepware Scanner. • Мультимодальная проверка: анализ одновременно видео и аудио.
EXIF (Exchangeable Image File Format) означает наличие метаданных у файла: например, авторство, условия и способы его получения.
К поведенческим признакам эксперт отнесла, конечно же, срочные просьбы в духе «немедленно перевести деньги». И нужно быть настороже, если стиль общения вдруг стал отличаться от прежнего или наступила резкая смена эмоций в голосе.
Стоит обращать внимание и на текстовые сообщения в электронной почте и мессенджерах.
Надежда Капустина
профессор кафедры экономической безопасности и управления рисками Финансового университета при Правительстве РФ, доктор экономических наук
Текстовые подделки демонстрируют часто стилистические несоответствия, повторяющиеся конструкции или фактические ошибки, которые не допустил бы настоящий автор
Как обезопасить свои счета и персональные данные от посягательств?
Николай Калуцкий, ведущий инженер-программист НОЦ ФНС России и МГТУ им. Н.Э. Баумана, рекомендует использовать сложные пароли, регулярно их обновлять и применять специальные менеджеры. Обязательно проводить проверку URL-ссылок и соблюдать осторожность при оплате в интернете. Программист считает, что всегда лучше иметь несколько разных карт — допустим, одну только для покупок в сети, а другую для оплаты офлайн.
Егор Богданов
основатель ИТ-компании
В первую очередь это касается цифровой гигиены: использование многофакторной аутентификации (MFA), регулярная смена паролей, применение специализированных менеджеров паролей и шифрование важных данных. Не менее важны организационные меры, включающие ограничение доступа к личной информации, регулярное обновление программного обеспечения, современные антивирусные решения и постоянное обучение персонала правилам кибербезопасности
Павел Коваленко в очередной раз напоминает самые необходимые меры предосторожности: «Во-первых, если с вами связались из банка, государственных органов или же ваши близкие, положите трубку и свяжитесь с ними самостоятельно. Во-вторых, никогда не переходите по ссылкам, которые получили из сомнительных источников. Велика вероятность, что это фишинговые рассылки. В-третьих, следите за информацией, которую вы оставляете на своих страницах в социальных сетях и других публичных платформах. Эта информация может быть использована для организации целевой фишинговой атаки. В-четвертых, никому не сообщайте коды из СМС от банков и других приложений. Эта информация конфиденциальна, доступ к ней должен быть только у вас. В-пятых, используйте антифрод-услуги от операторов связи, чтобы заранее блокировать мошеннические звонки, а также установите двойную аутентификацию в важных приложениях и аккаунтах, это позволит повысить защищенность ваших данных и средств».
Надежда Капустина предупреждает, что биометрические данные нужно использовать с осторожностью, ведь отпечатки пальцев или селфи уже могли быть ранее скомпрометированы и воспроизведены. И Екатенина Корнюшина призывает минимизировать цифровой след, то есть не выкладывать публично образцы своего голоса и фото в высоком качестве.
Фото: Shutterstock/FOTODOM
Как правоохранительные вычисляют мошенников и какие меры пресечения при доказательстве вины могут последовать?
С законодательством в сфере ИИ оказалось все не так однозначно, как можно было предполагать.
«В УК РФ на данный момент отсутствует четкое понимание того, какие преступления могут быть совершены с использованием ИИ, по причине того, что данное явление относительно новое. В начале апреля в Госдуму РФ был внесен законопроект № 885494-8, в соответствии с которым применение ИИ в преступных целях предлагалось отнести к отягчающим обстоятельствам. Однако, он был отклонен в связи с несоответствием, в частности, ст. 104 Конституции РФ», — говорит Надежда Капустина.
Тем не менее есть статьи, к которым можно апеллировать при обвинении в киберпреступлении.
Егор Богданов
основатель ИТ-компании
Правоохранительные органы используют несколько основных методов для выявления злоумышленников. Среди них — трассировка IP-адресов, анализ блокчейн-транзакций, цифровая криминалистика и мониторинг активности в darknet. При доказательстве вины злоумышленникам грозят серьезные последствия. Это может быть административная ответственность за нарушение Федерального закона №152, уголовная ответственность по статьям 159 УК РФ («Мошенничество»), 272 УК РФ («Неправомерный доступ») и 273 УК РФ («Вредоносные программы»). Кроме того, предусмотрена гражданско-правовая ответственность в виде возмещения причиненного ущерба. В качестве профилактических мер осуществляется разработка новых нормативно-правовых актов, создаются специализированные подразделения по борьбе с киберпреступностью, развивается международное сотрудничество и проводится работа по повышению цифровой грамотности населения
Другая сторона вопроса — процент раскрываемости подобных правонарушений. А он весьма невысок.
Павел Коваленко
директор центра противодействия мошенничеству
Мошенников вычисляют по IP-адресам, с которых они общаются с жертвами, отслеживают по счетам, на которые осуществляются переводы. Проблема в том, что эти данные легко подменить, запутать. Поэтому раскрываемость интернет-преступлений остается на низком уровне – 20-25%. Мера пресечения также зависит от ущерба, нанесенного преступником. Минимальное наказание – штраф 120 тыс. рублей или обязательные работы. Максимальное – тюремное заключение до 10 лет
И по справедливому замечанию Екатерины Корнюшиной, криминалисты используют тот же искусственный интеллект — AI-детекторы для доказательства факта синтетичности контента.
Все эксперты сходятся во мнении, что от новых форм технологического мошенничества можно защититься только за счет повышения уровня общественной осведомленности и цифровой грамотности населения.
