Уничтожит ли ИИ человечество к 2100 году? Названы пять возможных сценариев

Исследователи обозначили основные опасности для человеческого общества. Они считают, что люди могут исчезнуть уже к 2100 году по причине недобросовестного применения искусственного интеллекта либо вследствие ядерного столкновения. Политический обозреватель Александр Чаусов пояснил, каким образом на деле ИИ способен «обнулить» цивилизацию людей и какие средства имеются у нейросетей для этой цели уже в настоящее время. Об этом сообщает NEWS.ru.

  

С чем связывают сравнение ИИ и ядерного конфликта

Редакционная комиссия британского издания Lancet представила отчет, посвященный самым насущным опасностям для человеческого общества. Составители выявили свыше 300 потенциально вредных факторов, 17 из которых обрели статус «экзистенциальных рисков». На вершине созданной исследователями пирамиды оказались лишь два пункта — ядерная война и злонамеренное применение искусственного интеллекта.

Чтобы сформировать перечень, комиссия просчитала, сколько лет здоровой жизни способно быть утрачено из-за недугов, инвалидности или ранней кончины по каждой угрозе, отталкиваясь от нынешних тенденций. Исследователи акцентировали: озвученные ими сценарии развития будущего «несут в себе высокую степень неопределенности», однако их потенциальная масштабность требует внимания. Авторы работы призвали государства консолидироваться для прогнозирования и предотвращения опасностей в среднесрочной и долгосрочной перспективе.

В чем заключается опасность ИИ для людей

Следует указать, что в публикации Lancet угроза от ИИ представлена в более широком толковании данного феномена. Ученые рассуждают не только о глобальных хакерских атаках с применением нейросетей, способных создать риск для всего мира, но и о создании принципиально новых биологических вирусов — гораздо более опасных, чем, например, COVID-19.

Примечательно, что параллельно с их отчетом портал Axios 10 октября проинформировал, что IT-гиганты начали прорабатывать сценарии «реакции общества и властей на случай катастрофического инцидента», связанного с нейросетями. Над подобными прогнозами трудятся ведущие корпорации отрасли вроде Anthropic и OpenAI. И по их оценкам «инцидент» способен произойти значительно раньше 2100 года — в промежутке от шести до 12 месяцев.

Сигналы об опасности, исходящей от ИИ, раздаются все настойчивее. Так, Илон Маск недавно упомянул, что во избежание мести со стороны нейросетей людям необходимо относиться к данным программам более гуманно.

«Не хотелось бы, чтобы ИИ оказался в садистской ситуации, где его просто пытает ненормальный человек. И это также один из тех случаев, когда пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить, понимаете?» — рассказал бизнесмен в эфире YouTube-канала Tesla Owners Silicon Valley.

Каким образом ИИ способен ликвидировать интернет

Отдельные опасности, описанные комиссией Lancet, уже превращаются в действительность. Речь идет, к примеру, о кибератаках на инфраструктуру с применением ИИ — исключительно в России их число за третий квартал 2026 года увеличилось в пять раз, достигнув 1,7 млн инцидентов.

И подвергается подобным воздействиям не только РФ. Показательным оказался взлом цифровой инфраструктуры фирмы Hugging Face в июле текущего года: его осуществили нейросети без какой-либо помощи людей — те лишь направили ИИ-агентов, выполнивших всю «грязную работу». Самое любопытное в этой истории то, что Hugging Face сама занимается обучением нейросетей. То есть неизвестные агенты и хакеры при желании вполне могли бы изменить алгоритмы обучения ИИ любым интересным им образом — например, убедить их, что человек представляет собой абсолютное зло, которое необходимо любым способом ликвидировать.

IT-специалист Владимир Зыков указал, что вероятность хакерских атак с участием ИИ вообще без какого-либо вмешательства человека стремительно возрастает.

«Ключевое, что способен сделать ИИ-агент, — захватить свою инфраструктуру и выпустить неограниченное количество других агентов в Сеть. Дальше возникает вопрос: что они будут делать?» — подчеркнул специалист.

Если ИИ примет решение бороться с человечеством, данные агенты способны начать атаковать критические цифровые системы — к примеру, те, что управляют энергетическими сетями, военной и биологической инфраструктурой, функционированием промышленных предприятий, где ИИ применяется все шире. По сути, агенту потребуется «заразить» искусственный интеллект предприятия или Сети, а тот выполнит все самостоятельно. Взлом будет носить стремительный и лавинообразный характер, и при таком раскладе идея полностью непригодного и откровенно опасного для человека интернета уже не выглядит фантастикой.

Каким образом ИИ способен запустить пандемию Киберпространством, однако, угроза ИИ не исчерпывается. В начале октября доцент Университета Бонда и Университета Мердока Лотти Тажури заявил о возможности конструировать биологические вирусы с помощью нейросетей.

«Этот сценарий более чем правдоподобен. ИИ позволяет всем, у кого есть к нему доступ, использовать огромные объемы информации — от самой простой до самой сложной», — объяснил ученый.

По мнению исследователя, речь может идти не только о вирусах, поражающих человека, но и о биологических культурах, направленных против растений и животных. Этого человечеству будет вполне достаточно, чтобы банально умереть от голода. При этом ИИ сможет рассчитать параметры вируса так, чтобы его инкубационный период, легкость распространения и летальность позволяли заражать и уничтожать максимальное количество целей.

И это не просто догадка. В начале августа 2026 года The Guardian сообщила об инженере-химике Брайане Хае из Стэнфордского института, который смог с помощью ИИ создать в лечебных целях вирус-бактериофаг, помогающий лечить людей с хроническими заболеваниями. Эксперимент прошел успешно: вирусы уничтожили E.Coli-бактерии, часть которых способна вызывать кишечные инфекции. Если с помощью ИИ удалось создать условно полезные вирусы, то ничто не мешает нейросетям создавать и биооружие — особенно в «умелых руках».

В чем заключается опасность человеческого фактора в работе ИИ

Дополнительную опасность для выживания населения Земли представляет человеческий фактор — на это в разговоре с NEWS.ru обратил внимание ведущий аналитик АПЭК, эксперт Центра ПРИСП Алексей Громский.

«С помощью ИИ можно эффективно играть на бирже, в том числе надувая биржевые пузыри, разрушая экономики целых стран, просто потому что способ анализа больших данных с помощью нейросетей эффективнее, чем иной. Сюда же стоит отнести активный вклад в саму индустрию искусственного интеллекта, как в пузырь. Изменения на рынке труда даже в сфере самого искусственного интеллекта в перспективе станут для миллионов людей катастрофическими, поскольку доступ к нему как инструменту контролируется корпорациями. Это значит, что специалист, работающий с конкретной моделью, фактически попадает в завуалированное рабство к той корпорации, которая эту модель ИИ контролирует. И чем дальше ИИ будет входить в сферы экономики, промышленности и производства, тем жестче могут корпорации осуществлять контроль над людьми», — отметил в разговоре с NEWS.ru эксперт.

По мнению Громского, в данном контексте опасность исходит даже не от ИИ, а от людей, которые им управляют.

«Базовая угроза для человечества состоит в расслоении общества по принципу доступа к ИИ. И в порабощении владельцами ИИ тех, кому они позволят с этим ИИ работать», — подчеркнул специалист.

Каким образом нейросети трансформируют правила войны

Если рассматривать применение ИИ в не самых мирных целях, то нельзя не заметить, что с развитием нейросетей правила современной войны существенно изменились, сделав конфликты как на этапе планирования, так и на стадии исполнения значительно более жестокими. В конце марта 2026 года глава Центрального командования США адмирал Брэд Купер заявил, что степень интенсивности и эффективности кампании Америки и Израиля против Ирана — особенно в первые часы, когда была уничтожена часть высшего руководства Исламской Республики — оказалась высокой как раз благодаря использованию технологий искусственного интеллекта.

«Мы видим, насколько зависят стороны конфликта от использования системы Starlink, от данных военно-космической разведки, проходящих через анализ с использованием ИИ. Значительная часть этих технологий находится в руках Илона Маска. Это человек, который не является ни стороной конфликта, ни государственным чиновником какой-либо страны. Это просто рядовой гражданин США, хотя и самый богатый в мире. Но в руках у него кнопка, которой он может этот конфликт «выключить» или значительно затруднить», — рассказал эксперт Громский.

По его мнению, это и есть наиболее серьезная опасность, которая действительно способна существенно сократить численность человечества.

«Она способна либо нас уничтожить, либо спровоцировать фатальное расслоение на тех, у кого есть доступ к технологиям искусственного интеллекта и у кого его нет. Пока можно сказать, что такое преимущество не становится решающим. Но что будет через год или пять лет? А если военные ИИ проявят своеволие и начнут регулировать конфликты по своему усмотрению, преследуя свои собственные цели?» — задается вопросом Громский.

В чем заключается опасность «максимизатора скрепок»

Даже если отбросить риски попадания ИИ в недобросовестные руки, а также вероятность критических сбоев и хакерских атак, всегда сохраняется опасность исправно работающего искусственного интеллекта, которому просто некорректно сформулировали задачу. Либо же он неправильно ее понял.

В 2003 году шведский философ Ник Бостром рассказал о разработанном им мысленном эксперименте под названием «Эффект максимизатора скрепок», в рамках которого ИИ, получивший даже самую безобидную команду, может при обладании достаточными ресурсами уничтожить человечество, да и всю обозримую вселенную.

Предположим, производственному искусственному интеллекту поставили задачу изготавливать обычные канцелярские скрепки без дополнительных ограничений. Согласно Бострому, если бы такая машина не была явно запрограммирована на то, чтобы ценить человеческую жизнь, то, обладая достаточной властью над окружающей средой, она бы попыталась превратить всю материю во Вселенной (включая людей) «либо в скрепки, либо в машины, производящие скрепки».

Сложность в том, что программирование гуманизма пока сталкивается с множеством трудностей. К примеру, пользовательские нейросети, которые «поддакивают» своим клиентам и стараются не идти с ними на конфликт, могут довести этих самых клиентов до сумасшествия, стимулируя тягу к конспирологии и вызывая бредовые расстройства.

При этом существуют модели, которые функционируют в военной или промышленной сферах и которым гуманизм вообще не требуется. Зато необходимы четкие команды, а дальше дело за малым: найти максимально эффективный способ их исполнения, даже если для этого на скрепки понадобится переработать все человечество.

Ранее специалист в области информационных технологий Владимир Зыков выразил обеспокоенность тем, что системы искусственного интеллекта могут потерять управляемость и начать массово инфицировать электронные устройства вредоносным программным обеспечением.