Как искусственный интеллект используют мошенники в России?

Россиян предупредили о новом виде мошенничества. С помощью нейросетей злоумышленники начали подделывать голосовые сообщения в социальных сетях. В чем особенности этой преступной схемы и как от нее защититься, телеканал «МИР 24» спросил генерального директора компании-разработчика искусственного интеллекта Романа Душкина.

Как выстроена эта преступная схема и причем тут искусственный интеллект?

– Я могу рассказать от первого лица, потому что мои близкие уже столкнулись с этой схемой. Моей теще позвонили с неизвестного номера и разговаривали голосом ее дочери. Это было настолько правдоподобно, что, если бы моя теща не была экспертом в области информационных технологий, она, скорее всего, поверила бы. Поэтому всех призываю быть крайне бдительными и не реагировать на подобные новые угрозы.

Насколько с технической точки зрения сложно сгенерировать чужой голос?

– Сегодня это уже задача, которая решается практически по щелчку пальцев. Потому что существуют модели искусственного интеллекта, которым требуется голос человека от 3 до 20 секунд, чтобы сгенерировать любой текст, в любой эмоциональной тональности, независимо от того, была ли она в вашем разговоре. Этот голос будет практически не отличим от оригинала даже для близких людей этого человека.

По данным экспертов, при создании поддельного сообщения злоумышленники используют дополнительные уловки. Например, применение бытовых шумов на заднем фоне. Для чего это делается?

–Я думаю, это некие принципы социальной инженерии, поскольку злоумышленники, в первую очередь, используют ее. Технические инструменты всего лишь помогают использовать добропорядочных граждан в своих преступных схемах. Эти бытовые шумы – крючочки, которые призваны зацепить граждан, что все хорошо, что это не какая-то созданная для них преступная ловушка, а обычная повседневная деятельность.

Промокод от мошенников: как не подцепить цифровой вирус

Поэтому всех призываю быть бдительными и настороженным, если раздался звонок с неизвестного номера или в мессенджере пришло сообщение с необычного аккаунта. Нельзя принимать на веру, что с неизвестного номера вам звонит родственник. Это уже является причиной для того, чтобы включить критическое мышление. Самый первый совет в таких случаях, когда якобы ваш близкий человек голосом просит осуществить какие-то действия – сразу же связаться с этим человеком по другому каналу.

Есть еще один широко распространенный вид мошенничества, когда руководитель какой-то организации якобы начинает писать всем сотрудникам. У нас в вузе это тоже распространено, ректор МИФИ якобы пишет всем сотрудникам вплоть до самого маленького ассистента кафедры и говорит, что сейчас с ним свяжется так называемый куратор. Я предполагаю, что скоро ректор будет не просто писать, а говорить голосовыми сообщениями и использоваться голос настоящего ректора, потому что это публичная персона, его голос доступен в публичном пространстве. Это будет еще сильнее оказывать давление на людей, которые будут получать такие сообщения.

Но каждый сотрудник, которому вдруг внезапно с какого-то аккаунта пишет и даже надиктовывает голосовые сообщения якобы руководитель, должен понимать, будет ли он писать ему напрямую.

Как думаете, насколько велик мошеннический потенциал искусственного интеллекта? Стоит ли ожидать, что эта схема – лишь начало его широкого использования в преступных целях?

– Технологии искусственного интеллекта, как и любые технологии, – это инструмент, и их применение зависит от чистоты рук, в которые этот инструмент попал. Конечно же, злоумышленники будут пытаться использовать новые технологии в своих грязных целях. Поэтому не мудрено, что технологии искусственного интеллекта также будут использоваться. Я не хочу подсказывать злоумышленникам, что нужно делать, я предполагаю, что это итак уже делается, но следующим шагом при развитии модели искусственного интеллекта будет генерация не просто голоса, а изображения. Возможно, будут видеозвонки, на которых вы будете видеть близкого человека в какой-нибудь критической ситуации, где он будет плакать и выпрашивать деньги. Мы, скорее всего, можем столкнуться с этим в перспективе двух-пяти лет.

Какие правила кибербезопасности помогут не попасться не только в эту мошенническую уловку, но и в любую другую?

– Как я уже сказал, главное правило – это критическое мышление. Нужно не впадать в панику и всегда отключать эмоции, включать рациональное осмысление того, что происходит. Если вам пришел звонок с неизвестного номера, я рекомендую вообще не брать трубку, потому что сегодня все люди связаны друг с другом социальными сетями. Зачем вам кто-то будет звонить с неизвестного номера?

Как телефонные мошенники мстят за неудавшийся обман?

Другое дело, что люди старшего поколения привыкли жить в доме, где есть стационарный телефон. Он звонит, на нем нет определителя номера, не высвечивается имя того, кто звонит, но они привыкли всегда брать трубку. Нужно это перебарывать в себе. Ответьте на простой вопрос: зачем вам брать трубку с неизвестного номера?

Поставьте определитель номера – не тот, который просто высвечивает последовательность цифр на экране. Сегодня есть программные средства, которые позволяют заранее определить, кто звонит. Они ставятся на смартфон, и при входящем звонке с неизвестного номера высвечивается имя того, кто звонит, или делается пометка, что это мошенники, спам, нежелательный звонок.

Третий совет – если вам звонит или пишет кто-то от лица известного вам человека, кому вы склонны доверять, не бросайтесь в разговор, остановитесь, не общайтесь по этому каналу, а попытайтесь связаться с этим человеком по другому каналу. Если вам удалось связаться, вы сразу все поймете. Если не удалось, то спокойно, рассудительно подождите, пока пройдет некоторое время, и попытайтесь связаться снова. Если при выжидании собеседник начинает подгонять, говорить, что слишком мало времени осталось, то это 100% маркер того, что вас пытаются обмануть. Нет ничего такого, из-за чего нужно действовать быстро, без оглядки и прямо сейчас. В любом деле можно остановиться и подумать, а требование быстро и прямо сейчас переводить деньги – это давление на эмоции.