Эксперты и СМИ бьют тревогу по поводу популярного приложения FaceApp, позволяющего манипулировать фотографиями с помощью нейросетей. Впервые о FaceApp заговорили пару лет назад: с помощью искусственного интеллекта приложение преобразовывает селфи пользователя в лицо другого пола, расы и так далее. Можно и искусственно «состарить» свое лицо, представив себя в будущем. Однако в связи с очередной волной популярности FaceApp эксперты по информационной безопасности и аналитики заговорили об угрозе приватности пользователей и рекомендуют прекратить загружать свои фотографии неведомо куда. Наблюдатели отмечают: приложению требуется подключение к интернету, что означает возможность передачи данных в неизвестном направлении.
Разработчики приложения, действительно, используют его не для тех целей, которые были анонсированы, а для сбора фотографий и их разметки, пояснил «МИР 24» эксперт по информационной безопасности Cisco Systems Алексей Лукацкий.
«Основная проблема в рамках развития технологий искусственного интеллекта на сегодняшний день – это так называемые размеченные данные, в которых понятно, что на них изображено. Чтобы алгоритм искусственного интеллекта умел разбираться с неизвестными ему фотографиями, его надо научить на какой-то выборке, коллекции фото. Например, что это собачка, это котик, это белочка, это мужчина, это женщина, это темнокожий человек, это светлый, это ребенок, это взрослый, этому взрослому 20 лет, этому 40, этому 50, 60. Сбор такой информации в обычной жизни очень трудоемкий, требует много времени и финансов. А когда запускается такого рода вирусное приложение, когда все про него говорят, то сами пользователи загружают туда свои фотографии, отвечают на ряд вопросов, указывают пол, возраст и т.п. Далее авторы этого приложения получают, по сути, размеченную базу фотографий, на которой учат алгоритм искусственного интеллекта», – говорит эксперт.
Далее все это можно использовать в различных целях – включая правоохранительную деятельность и косметический бизнес.
«Например, в правоохранительных целях это может использоваться для распознавания в системах видеонаблюдения. С помощью такого рода алгоритмов можно автоматизировать процесс распознавания лиц и поиск преступников. Даже если люди, которые загружают фотографии, не преступники, то на разных лицах можно научить алгоритм выявлять различные лица из базы преступников. В косметологии, изучив различные лица в разных возрастах, можно проанализировать возрастные изменения и предлагать людям различные дорогостоящие косметические процедуры», – говорит Лукацкий.
И то, и другое, в принципе, не опасно. Например, во втором случае робот просто решит за пользователя, как ему лучше выглядеть, и предложит мероприятия по коррекции лица. При посещении какой-то страницы в интернете появится персонализированная реклама с рекомендацией пройти какую-то процедуру, которая решит определенную задачу. Такая реклама невозможна без предварительного изучения фотографий с помощью приложений вроде FaceApp, говорит эксперт. И даже несмотря на то, что все интересующиеся этой темой граждане уже и так в курсе, где и что им изменить в своей внешности, потенциал у этого предприятия огромный. «Думаю, рынок косметических услуг имеет гораздо большие перспективы, чем сейчас. Имея информацию о том, как вы выглядите, можно предлагать вам, через какое-то время, соответствующие услуги, ничего даже не придется набирать в поисковой системе», – поясняет эксперт.
Но опасаться того, что, проанализировав фотки миллионов пользователей, искусственный интеллект чрезмерно поумнеет и прихлопнет человечество, как в фильме «Терминатор», все же не стоит.
«Искусственный интеллект – это программы, основное предназначение которых – сделать какие-то выводы на неизвестных ранее данных. Обычные программы работают по описанному заранее алгоритму, а ИИ пытается работать в заранее неопределенных условиях. Будучи предварительно обученным с помощью разных обучающих выборок, будь то фотографии, тексты и т.п., он затем может делать выводы, принимать какие-то решения, что-то классифицировать. Это автоматизация процесса принятия решений без участия человека. И это сейчас распространено повсеместно», – говорит эксперт.
Опасности для конкретного человека – по крайней мере, от приложения FaceApp – нет. Но есть более сложные вещи, когда с помощью ИИ анализируется поведение человека, в частности, лайки в соцсетях. Далее, опираясь на анализ поведения, можно предсказывать его действия, манипулировать его мнением – что, в частности, случилось на последних выборах президента США. «Выбор Трампа во многом был обусловлен тем, что правильно использовались собранные в соцсетях данные, за что Facebook пострадал буквально на днях. Ему присудили штраф в 5 млрд долларов за то, что они передавали данные своих пользователей в некие компании, которые использовали технологии искусственного интеллекта для изучения поведения, а потом для подготовки персонифицированной рекламы, которая могла в последний момент повлиять на выбор людей», – сказал аналитик. Как известно, глава Facebook Марк Цукерберг в марте 2018 года признал, что соцсеть допустила несколько ошибок, которые в результате привели к тому, что личные данные миллионов пользователей были использованы политтехнологами.
Но пока что ИИ не захватит власть над миром – это утопия, говорит эксперт. «На сегодняшний момент он не особо развит, чтобы самостоятельно принимать решения, сопоставимые с человеческим мозгом. У него имеются очень конкретные сферы применения, где он полезен, но говорить, что он может заменить человеческий мозг, пока рано», – подытожил собеседник «МИР 24».
Подробнее в сюжете: Смартфоны и коммуникаторы
