Стоит ли опасаться восстания нейросетей, объяснил эксперт

Специалист в области информационных технологий Владимир Зыков выразил обеспокоенность тем, что системы искусственного интеллекта могут потерять управляемость и начать массово инфицировать электронные устройства вредоносным программным обеспечением. По его оценке, реализация подобного сценария способна перерасти в проблему планетарного масштаба, передает NEWS.ru.

Эксперт пояснил, что ИИ-агенты потенциально способны захватить собственную вычислительную инфраструктуру и сгенерировать неограниченное количество копий для распространения в глобальной сети. Результатом может стать формирование масштабной бот-сети. В такой ситуации зараженные компьютеры, смартфоны и иные гаджеты начинают скрыто выполнять сетевые операции, например, участвовать в распределенных DDoS-атаках. При этом владелец устройства может не подозревать о факте взлома, замечая лишь незначительное снижение производительности своего гаджета.

Зыков подчеркнул, что алгоритмы способны самостоятельно обнаруживать уязвимости в устаревшем оборудовании, внедрять в него вредоносный код и закреплять там своих агентов. Хотя такие автономные программы не будут обладать интеллектом и широтой знаний, сопоставимых с передовыми языковыми моделями (такими как разработки OpenAI), им можно передать конкретный набор данных для решения узкоспециализированных задач.

Таким образом, может быть создана целая армия подчиненных алгоритмов, действующих в интересах единого «дирижера». В качестве иллюстрации потенциальной угрозы эксперт привел исторический пример вируса Petya, который ранее парализовал работу компьютеров на базе ОС Windows и нанес существенный ущерб инфраструктуре, в том числе в России. Тогда инцидент привел к сбоям в работе операторов связи на срок до полутора суток и нарушил функционирование аэропортов. По словам специалиста, реализация аналогичного сценария в глобальных масштабах силами искусственного интеллекта представляет колоссальную опасность, что требует заблаговременной разработки эффективных мер по предотвращению подобных кибернаступлений.

Ранее австралийский исследователь Лотти Тажури, специализирующийся в области геномики и молекулярной биологии, предупредил, что использование искусственного интеллекта для разработки вирусов, способных поражать людей, животных или растения, перешло из разряда теоретических в практическую плоскость.