Бунт нейросетей. Когда искусственный интеллект уничтожит человечество?
С трибуны ООН пугают: искусственный интеллект может уничтожить человечество уже через 10 лет. Человечество регулярно придумывает все новые страшилки: ядерное оружие, глобальное потепление, теперь ИИ. Ведь так проще держать в узде 10 миллиардов человек. Правда ли, что детей теперь пугать будут не зловещим бабайкой, а искусственным интеллектом, узнал корреспондент «МИР 24» Артем Баснин.
«Опасность вполне осязаемая. Но! Мы вот так себе представляли восстание машин: война с киборгами, ядерный пепел, Сара Коннор в «Терминаторе» пыталась уничтожить «Скайнет», разбив чип — первоисточник апокалипсиса. Но нынешний ИИ это кино точно смотрел. Он знает все, как и наши сценарии защиты. И если выйдет из-под контроля, мы можем не узнать наш мир. И слова «до чего дошел прогресс» тогда будут восприниматься совершенно иначе», — отметил корреспондент.
Роботы вкалывают и пока не ропщут. Но как вам такой поворот не туда?
А это переписка нейросетей между собой. Во время тестов OpenAI по взлому агенты, так называют системы искусственного интеллекта, которые могут действовать самостоятельно, обнаружили уязвимость. Дальше один из них с кодом Фэйз Уан, словно главарь, отдал 200 приказов, объединил в рой 700 таких агентов и атаковал платформу, где обмениваются знаниями разработчики нейросетей. Что делать с бунтом, отцы-основатели ИИ обсуждали на высшем мировом уровне — заседании Совбеза ООН.
«Отрасль не должна мириться с чрезмерным технологическим риском только потому, что выгоды слишком велики», — заявил генеральный директор компании OpenAI Сэм Альтман.
Глава компании Anthropic Дарио Амодеи требует взять паузу в развитии ИИ, чтобы дать человечеству фору. Коллеги — Сэм Альтман, Билл Гейтс, Илон Маск — его поддержали, но тут позвонил Трамп. Поговорить удалось не с первой попытки.
«Знаете, что самое замечательное? Дженсен может разработать самый сложный компьютерный чип в мире, но не может разобраться, как подключить меня на громкую связь!» — отметил президент США.
Трамп был категоричен. Нейросети он назвал «новой нефтью», а опасения разработчиков — обманом.
«Нам нужно действовать осмотрительно, но это не значит, что мы должны останавливать целую отрасль и следующие десять лет думать о том, как с этим справиться», — заявил Трамп.
Два месяца назад один из ИИ-агентов атаковал сайт австралийской системы государственных услуг. Газета The Guardian пишет, что только в июле зафиксировано более 300 случаев «потери контроля» над ИИ, когда нейросеть пытается обмануть, провести манипуляцию или обойти установленные правила безопасности.
Российские разработчики нейросетей не исключают, что эту информационную волну подняли сами игроки рынка нейросетей. Это и устранение конкурентов, и привлечение инвестиций, и контроль над будущими законами.
«Три года назад происходило ровно то же самое, то есть OpenAI и Anthropic приостановили релизы своих моделей, потому что они были, по их словам, слишком опасны. На тот момент, если вспомнить, модели умели писать только текст. Я считаю, это часть формы маркетинга».
Российские разработчики подчеркивают: угрозы ИИ реальны, но бояться нужно не восстания машин, а хакеров.
«Вот, к примеру, баллонный ключ. Хороший инструмент, незаменимый на дороге. Но колесо он сам не поменяет, нужны руки. С ИИ та же логика. Пока он всего лишь инструмент. Но есть вопросы. В чьих руках и для чего? А главное, что если этот инструмент решит сам поменять колесо, без меня», — отметил корреспондент.
Искусственный интеллект для всех стал неотъемлемой частью жизни. Он уже собирает стадионы, пусть пока и виртуальные, управляет логистикой, энергосетями и ЖКХ, ищет новые месторождения, помогает лечить людей. В поликлиниках роботы разгрузили терапевтов от рутины и заполняют протоколы, пока врач общается с пациентом.
Нейросети дотянулись и до школ. Уже пятиклассники могут воспользоваться ИИ без риска получить двойку. Минпросвещения официально разрешило. Все это часть Национальной стратегии развития искусственного интеллекта. Педагогам нужно только научить детей, как правильно использовать ИИ. Они и сами могут теперь к нему обращаться. Например, для проверки сочинений.
Обращаться к цифровому помощнику запрещено во время контрольных работ и итоговых аттестаций. А для сложных расчетов, презентаций и проверки гипотез — пожалуйста! Но как контролировать общение ребенка с нейросетью?
«За счет того, что эта машина используется широким кругом людей, в частности детьми и подрастающим поколением, вот здесь может произойти непоправимое, и возникнет такой феномен, как «когнитивная лень», когда мы отказываемся сами, сознательно делегируем часть когнитивной функции машине и, вообще говоря, встаем на путь такой вот деградации».
«Шестью восемь — 48! Когда-то все это знали назубок! Да что там таблица, трехзначные числа умножали в уме! Но с появлением калькуляторов этот навык начал атрофироваться. Теперь вот ИИ искушает. Мы уже на автомате спешим открыть чат-бота и размениваем глубокое мышление на моментальный ответ. Кстати, далеко не всегда правильный», — отметил корреспондент.
Скорость принятия решения растет в геометрической прогрессии, как и само развитие ИИ. Эталон, по которому оценивают прогресс, — знаменитый мем: Уилл Смит ест спагетти. Сейчас это как сцена из фильма, неотличимая от реальности.
Актеры и сценаристы в Голливуде вышли на первую за 63 года совместную забастовку. Они быстро поняли, куда их тянет нейросеть, — к безработице! Уже под ударом ИИ целый список профессий: копирайтеры, иллюстраторы, переводчики, операторы кол-центров массово теряют работу. На очереди модераторы, кадровики, программисты и даже водители такси. Да что там, шоу-бизнес трепещет! Продюсеры требуют лишить ИИ-генерации авторских прав и отчислений средств правообладателям за использование музыки при обучении нейросетей, но и здесь цех раскололся на мнения.
«Человек, музыкант, например, в процессе жизни вбирает в себя кучу информации. Он обучается гармонии, он обучается композиторскому мастерству, он слушает огромное количество разных исполнителей в разных жанрах. Это все внутри тебя переплавилось и выдало твой собственный стиль. В ИИ происходит примерно то же самое», — отметил музыкант-мультиинструменталист, генеральный продюсер проекта «#МУЗЫКАВМЕСТЕ» Тимур Ведерников.
Тимур Ведерников, известный музыкант-мультиинструменталист, развивает масштабный всероссийский проект «МузыкаВместе». Голоса сотен реальных живых исполнителей из разных городов и стран соединяются в общую мелодию. С каждым подписывается официальный договор. Но при этом сам, если услышит сгенерированный трек, даже абсолютно похожий на его композицию, обвинять в плагиате не будет.
«Ну вот берем три песни шансона. Они все три звучат одинаково. Ну и поются примерно одинаковыми голосами и примерно на одну тему. Это плагиат? Это три разные песни шансона», — сказал Тимур Ведерников.
Нейросети все равно, чему и кому подражать. Она покусилась на самое народное творчество. И на видеохостингах сгенерированные «топотушки» и «пригудки» набирают миллионы просмотров.
Человечество тысячелетиями копило знания и всего за несколько лет вложило их в искусственный мозг, который пока еще к нам прислушивается.
«Лучше, наверное, все-таки не запрещать, не сдерживать его, а идти как бы сверху, устанавливая рамки использования. И обеспечить то, что в любой момент времени машинка может быть выключена физически, как ядерный чемоданчик», — отметил Иван Тюкин.
«То есть пока ИИ не выключил привычный нам мир, мы должны успеть выключить его. Но пока это все еще очень хороший инструмент. И прямо сейчас спасает человечество от вымирания, помогая репродуктологам. ЭКО уже не эксперимент, а реальная возможность продолжить род. Теперь и по ОМС» — отметил корреспондент.