«Искусственный интеллект страшнее ядерного оружия»: машинный разум угрожает миру

По итогам 2022 года в России каждое четвертое преступление было с приставкой «кибер». Личные данные, документы, сбережения – все это можно украсть через сеть. А теперь злоумышленники с большой охотой берут в сообщники и нейросети. Обозреватель «МИР 24» Роман Никифоров выяснял, насколько опасен преступник, если он вооружен искусственным интеллектом.

Советские пионеры против компьютерного разума. В фильме «Отроки во Вселенной» жители далекой планеты больше не хотят работать: даешь свободное творчество и развлечения. Проектируют роботов на все случаи жизни под управлением искусственного интеллекта, а тот пытается и своих создателей контролировать ради их же блага. Сценарий, который сегодня для реальных землян не выглядит таким уж фантастическим!

Еще пару лет назад все это казалось невинной забавой. Искусственный интеллект – просто еще одна игрушка для детей и взрослых. Например, мобильные приложения с заменой лица. Можно попробовать себя в роли капитана Джека Воробья, хоббита Фродо, гладиатора Максимуса, да хоть волшебницы Малефисенты. Теперь уже не просто фейки – дипфейки! Качество не смартфонное, глубокая проработка. Известного актера можно заставить говорить все что угодно, с нужным выражением лица. И даже делать что угодно! Подозрения вызывают лишь странные фразы или действия, но не картинка. Ведущая ставропольского телеканала Снежана Туманова – это следующий уровень: виртуальная личность.

«Она читает текст, написанный, отредактированный нейросетью. И графика, которая у нее за спиной, это тоже нейросеть рисует. И не понимает никто, что она ненастоящая. Никто!» – сказал шеф-редактор отдела тематических программ телеканала «Свое ТВ» Ставропольского края Алексей Форсиков.

«Я не только в погоде разбираюсь. Готова рассмотреть вакансии на телеканале «МИР». Если, конечно, условия выгодные предложат», – сказала виртуальная ведущая прогноза погоды Снежана Туманова.

От вымышленных персонажей – к реальным, хоть и не живым. Загробный мир на связи: китайский блогер общается с умершей бабушкой – ChatGPT в помощь.

«Пока пугает всех то, что ты программируешь нейросеть, а она на выходе обладает не только теми свойствами, которые ты хотел от нее увидеть, но и еще сотнями других», – отметил разработчик систем распознавания и синтеза изображений, голоса и экспертных систем Станислав Ашманов.

Странная история американского профессора права Джонатана Терли. Чат-бот присылает ему электронное письмо, обвиняет в сексуальных домогательствах: якобы трогал студентку во время учебной поездки на Аляску, и в доказательство статья из Washington Post. Профессор – в шоке, и «дорогая редакция» – тоже.

Без креатива?

Способен ли чат-бот решать нестандартные задачи?

«Такой статьи не существовало. Поездки класса на Аляску никогда не было», – пишет Washington Post.

«Вы можете создавать миллионы дезинформационных статей в день. Очень много людей будут одурачены», – сказал эксперт по ИИ Гэрри Маркус.

В случае с профессором злого умысла, скорее всего, нет. Нейросеть просто тренируется, хоть и не на кошках. Куда опаснее, когда ее возможностями пользуется криминал. Еще три года назад в Арабских эмиратах искусственный интеллект подделывает голос директора банка и по телефону приказывает сотруднику перевести 35 миллионов долларов на подставной счет. Сотрудник верит. Аферистов ищут до сих пор. И по своей инициативе чат-бот обмануть может. Есть прецедент: нанимает в сети работника для решения капчи – теста с картинкой, что помогает определить, не является ли пользователь роботом. И вот тот самый робот заявляет человеку: не могу пройти, потому что зрение слабое, помогай!

«Искусственный интеллект куда более опасен, чем ядерное оружие. Тогда почему у нас нет никакого регулятора? Это сумасшествие», – один из богатейших людей планеты Илон Маск пугает всех еще в 2018-м году. А сегодня подписывает с другими главами мировых IT-гигантов открытое письмо.

«Мы призываем все лаборатории искусственного интеллекта немедленно приостановить как минимум на шесть месяцев обучение ИИ, более мощных, чем GPT-4», – говорится в письме.

«Мне кажется, что Маск однажды вышел из окон ИИ, а теперь войти не может и суетится. Это попытки неконкурентным образом ограничить конкуренцию. Кто сейчас будет приостанавливать? Пусть сами приостанавливают. Мы им спасибо скажем», – прокомментировал эксперт по искусственному интеллекту Роман Душкин.

Призывая других не торопиться, сам Маск собирает команду инженеров и исследователей, закупает тысячу графических процессоров для создания своей собственной нейросети. Не можешь подавить бунт, попробуй его возглавить! Сегодня вызов искусственному интеллекту готовы бросить лишь итальянцы. Ограничивают доступ к чату GPT формально из-за утечки данных пользователей. Нейросети словно троллят в ответ: рисуют сбор урожая в Италии. Бескрайние поля спагетти! Пока не на ушах.

«Нас однозначно машины догоняют, это общая тенденция любой автоматизации, постепенно отъедать больше профессий, больше задач. Просто хотелось бы, чтобы это двигалось в комфортном темпе, чтобы мы успевали реагировать», – отметил Станислав Ашманов.

В комфортном темпе не получается. Искусственный интеллект стремительно проникает во все сферы. Например, в моду. Новое увлечение – цифровая одежда, гулять в которой можно только по соцсетям. 40 долларов за наряд.

Российский Сбер удивляет. Запускает в начале апреля новое приложение – бесплатное, да и вообще не про деньги – про искусство! Называется Kandinsky 2.1. Создает картинки по текстовому запросу. Вот так цифровой художник видит себя, причем при разных генерациях лицо остается прежним. А вот так описывает визит съемочной группы в офис компании. Главная задача разработчиков – разобраться в самой технологии, а потом уже и практическое применение обсудить можно.

«Можно создавать рассылку писем по клиентам. Мы можем делать персонализированные изображения, которые отображают интересы пользователей», – сказал исполнительный директор по исследованию данных Сбера Андрей Кузнецов.

Новый талантливый сотрудник Сбера миру уж точно не угрожает, но показывает, насколько далеко продвинулся искусственный интеллект.

«А и Б сидели на трубе. А упало, Б пропало, что осталось на трубе? Роботы перегружаются и сгорают», – в советском фильме роботы-исполнители решить детскую задачку не могут. Вот и чат-бот пусть не виснет, но и подвоха в текстовом варианте не видит. Считает, что на трубе уже никого нет. Если написать все три буквы как заглавные, чудит: говорит, что осталась «А», и это случайный выбор. И лишь при наличии запятых выдает правильный ответ.

Выходит, у людей еще есть время? Но это неточно, и точно недолго. Уж слишком быстро нейросети обучаются, как в фантастическом кино после роботов-исполнителей встречаешь робота-Вершителя.