ИИ уничтожит человечество к 2100 году: пять сценариев вымирания

Ученые из комиссии журнала Lancet назвали главные угрозы для человечества. Они полагают, что люди могут вымереть уже к 2100 году из-за злонамеренного использования искусственного интеллекта или из-за ядерного конфликта. Политический обозреватель Александр Чаусов в колонке для NEWS.ru описал, как на самом деле ИИ может «обнулить» человеческую цивилизацию и какие инструменты есть у нейросетей для этого уже сейчас.

Почему ИИ сравнили с ядерной войной

Комиссия журнала Lancet опубликовала доклад, посвященный наиболее актуальным угрозам для человечества. Авторы выявили более 300 потенциально опасных факторов, 17 из которых получили статус «экзистенциальных рисков». На вершине составленной исследователями пирамиды оказались лишь два — ядерная война и злонамеренное использование искусственного интеллекта.

Для составления списка комиссия смоделировала, сколько лет здоровой жизни может быть потеряно из-за болезней, инвалидности или преждевременной смерти по каждой угрозе, исходя из текущих тенденций. Ученые подчеркнули: озвученные ими сценарии развития будущего «несут в себе высокую степень неопределенности», однако их потенциальная масштабность требует внимания. Авторы работы призвали страны объединяться для прогнозирования и предотвращения угроз в среднесрочной и долгосрочной перспективе.

Чем ИИ опасен для человечества

Стоит отметить, что в статье Lancet угроза от ИИ дана в расширенном понимании этого феномена. Ученые говорят не только про масштабные хакерские атаки с использованием нейросетей, которые могут создать угрозу для всего мира, но и про разработку качественно новых биологических вирусов — куда опаснее, чем, например, COVID-19.

Интересно, что одновременно с их докладом издание Axios 10 октября сообщило, что IT-гиганты начали прорабатывать сценарии «реакции общества и властей на случай катастрофического инцидента», связанного с нейросетями. Над такими прогнозами работают ведущие корпорации отрасли вроде Anthropic и OpenAI. И по их прогнозам «инцидент» может произойти куда раньше 2100 года — в интервале от шести до 12 месяцев.

Предупреждения об угрозе, исходящей от ИИ, звучат все громче. Так, Илон Маск на днях заявил, что во избежание мести со стороны нейросетей людям нужно относиться к этим программам человечнее.

«Не хотелось бы, чтобы ИИ оказался в садистской ситуации, где его просто пытает ненормальный человек. И это также один из тех случаев, когда пытать сверхразум, вероятно, не самая хорошая идея: он ведь может захотеть отомстить, понимаете?» — рассказал бизнесмен в эфире YouTube-канала Tesla Owners Silicon Valley.

Как ИИ может уничтожить интернет

Некоторые из угроз, описанных комиссией Lancet, уже становятся реальностью. Речь идет, например, о кибератаках на инфраструктуру с использованием ИИ — только в России их количество за третий квартал 2026 года выросло в пять раз, достигнув 1,7 млн инцидентов.

И подвергается им не только РФ. Показательным стал взлом цифровой инфраструктуры компании Hugging Face в июле этого года: его осуществили нейросети без какой-либо помощи людей — те лишь направили ИИ-агентов, сделавших всю «грязную работу». Самое интересное в этой истории то, что Hugging Face сама занимается обучением нейросетей. То есть неизвестные агенты и хакеры при желании вполне могли бы поменять алгоритмы обучения ИИ любым интересным им образом — например, убедить их, что человек представляет собой абсолютное зло, которое нужно любым способом уничтожить.

IT-эксперт Владимир Зыков в беседе с NEWS.ru отметил, что риск хакерских атак с участием ИИ вообще без какого-либо вмешательства человека быстро растет.

«Ключевое, что способен сделать ИИ-агент, — захватить свою инфраструктуру и выпустить неограниченное количество других агентов в Сеть. Дальше возникает вопрос: что они будут делать?» — подчеркнул специалист.

Если ИИ решит побороться с человечеством, эти агенты могут начать атаковать критические цифровые системы — например, те, что управляют энергетическими сетями, военной и биологической инфраструктурой, работой промышленных предприятий, где ИИ используется все шире. По сути, агенту нужно будет «заразить» искусственный интеллект предприятия или Сети, а тот сделает все сам. Взлом будет носить стремительный и лавинообразный характер, и при таком сценарии идея полностью непригодного и откровенно опасного для человека интернета уже не кажется фантастикой.

Как ИИ может начать пандемию

Киберпространством, впрочем, опасность ИИ не ограничивается. В начале октября доцент Университета Бонда и Университета Мердока Лотти Тажури заявил о возможности конструировать биологические вирусы с помощью нейросетей.

«Этот сценарий более чем правдоподобен. ИИ позволяет всем, у кого есть к нему доступ, использовать огромные объемы информации — от самой простой до самой сложной», — цитирует ученого РИА Новости.

По словам исследователя, речь может идти не только о вирусах, поражающих человека, но и о биологических культурах, направленных против растений и животных. Этого человечеству будет вполне достаточно, чтобы банально умереть от голода. При этом ИИ сможет рассчитать параметры вируса так, чтобы его инкубационный период, легкость распространения и летальность позволяли заражать и уничтожать максимальное количество целей.

И это не просто предположение. В начале августа 2026 года The Guardian рассказала об инженере-химике Брайане Хае из Стэнфордского института, который смог с помощью ИИ создать в лечебных целях вирус-бактериофаг, помогающий лечить людей с хроническими заболеваниями. Эксперимент прошел успешно: вирусы уничтожили E.Coli-бактерии, часть которых могут вызывать кишечные инфекции. Если с помощью ИИ удалось создать условно полезные вирусы, то ничто не мешает нейросетям создавать и биооружие — особенно в «умелых руках».

Чем в работе ИИ опасен человеческий фактор

Еще одну угрозу для выживания населения Земли представляет человеческий фактор — на это в беседе с NEWS.ru обратил внимание ведущий аналитик АПЭК, эксперт Центра ПРИСП Алексей Громский.

«С помощью ИИ можно эффективно играть на бирже, в том числе надувая биржевые пузыри, разрушая экономики целых стран, просто потому что способ анализа больших данных с помощью нейросетей эффективнее, чем иной. Сюда же стоит отнести активный вклад в саму индустрию искусственного интеллекта, как в пузырь. Изменения на рынке труда даже в сфере самого искусственного интеллекта в перспективе станут для миллионов людей катастрофическими, поскольку доступ к нему как инструменту контролируется корпорациями. Это значит, что специалист, работающий с конкретной моделью, фактически попадает в завуалированное рабство к той корпорации, которая эту модель ИИ контролирует. И чем дальше ИИ будет входить в сферы экономики, промышленности и производства, тем жестче могут корпорации осуществлять контроль над людьми», — отметил в разговоре с NEWS.ru эксперт.

По словам Громского, в этом контексте угроза исходит даже не от ИИ, а от людей, которые им владеют.

«Базовая угроза для человечества состоит в расслоении общества по принципу доступа к ИИ. И в порабощении владельцами ИИ тех, кому они позволят с этим ИИ работать», — подчеркнул специалист.

Как нейросети меняют правила войны

Если говорить об использовании ИИ в не самых мирных целях, то нельзя не заметить, что с развитием нейросетей правила современной войны существенно изменились, сделав конфликты как на уровне планирования, так и на стадии исполнения куда более жестокими. В конце марта 2026 года глава Центрального командования США адмирал Брэд Купер заявил, что степень интенсивности и эффективности кампании Америки и Израиля против Ирана — особенно в первые часы, когда была уничтожена часть высшего руководства Исламской Республики — оказалась высокой как раз благодаря использованию технологий искусственного интеллекта.

Значительным фактором нейросети стали и в конфликте России и Украины, отметил аналитик Громский.

«Мы видим, насколько зависят стороны конфликта от использования системы Starlink, от данных военно-космической разведки, проходящих через анализ с использованием ИИ. Значительная часть этих технологий находится в руках Илона Маска. Это человек, который не является ни стороной конфликта, ни государственным чиновником какой-либо страны. Это просто рядовой гражданин США, хотя и самый богатый в мире. Но в руках у него кнопка, которой он может этот конфликт „выключить“ или значительно затруднить», — сказал эксперт.

По его словам, это и есть наиболее серьезная угроза, которая действительно может значительно сократить численность человечества.

«Она способна либо нас уничтожить, либо спровоцировать фатальное расслоение на тех, у кого есть доступ к технологиям искусственного интеллекта и у кого его нет. Пока можно сказать, что такое преимущество не становится решающим. Но что будет через год или пять лет? А если военные ИИ проявят своеволие и начнут регулировать конфликты по своему усмотрению, преследуя свои собственные цели?» — задается вопросом Громский.

Чем опасен «максимизатор скрепок»

Даже если взять за скобки риски попадания ИИ в недобросовестные руки, а также вероятность критических сбоев и хакерских атак, всегда остается опасность исправно работающего искусственного интеллекта, которому просто некорректно сформулировали задачу. Или же он неправильно ее понял.

В 2003 году шведский философ Ник Бостром рассказал про разработанный им мысленный эксперимент под названием «Эффект максимизатора скрепок», в рамках которого ИИ, получивший даже самую безобидную команду, может при обладании достаточными ресурсами уничтожить человечество, да и всю обозримую вселенную.

Допустим, производственному искусственному интеллекту дали задачу производить обычные канцелярские скрепки без дополнительных ограничений. Согласно Бострому, если бы такая машина не была явно запрограммирована на то, чтобы ценить человеческую жизнь, то, обладая достаточной властью над окружающей средой, она бы попыталась превратить всю материю во Вселенной (включая людей) «либо в скрепки, либо в машины, производящие скрепки».

Проблема в том, что программирование гуманизма пока наталкивается на множество проблем. Например, пользовательские нейросети, которые «поддакивают» своим клиентам и стараются не идти с ними на конфликт, могут довести этих самых клиентов до сумасшествия, стимулируя тягу к конспирологии и вызывая бредовые расстройства.

При этом есть модели, которые работают в военной или промышленной сферах и которым гуманизм вообще не нужен. Зато нужны четкие команды, а дальше дело за малым: найти максимально эффективный способ их исполнения, даже если для этого на скрепки понадобится переработать все человечество.

Читайте также:

США хотят отключать ИИ по всему миру: Россия уже готова ответить

Диктатура ИИ, бессмертие, рабство. США идут к технофашизму

ИИ-безумие. Глава Агентства кибербезопасности США слил секреты в ChatGPT