Папа римский Лев XIV представил свою первую энциклику (послание папы католикам), посвященную защите прав человека в эпоху цифровой революции. В ней понтифик призвал ограничить развитие технологий искусственного интеллекта и не допустить его превращения в инструмент глобального контроля и войны. Опрошенные NEWS.ru эксперты уверены: это послание глубже, чем кажется на первый взгляд. Кого на самом деле обличил Лев XIV и почему на его сторону встал один из крупнейших разработчиков ИИ в США — в материале NEWS.ru.
Что папа римский сказал об ИИ
Лев XIV представил свою первую энциклику Magnifica Humanitas («Великое человечество») в Ватикане 25 мая. В послании к верующим он сравнил развитие ИИ с библейским сюжетом о строительстве Вавилонской башни.
«Исполненный величия человеческий род, сотворенный Богом, стоит сегодня перед решающим выбором: возводить новую Вавилонскую башню или созидать град, где смогут обитать вместе Бог и человечество», — сказано в энциклике.
Понтифик отметил: по своей сути технологии не враждебны человеку, но «неизбежно приобретают облик тех, кто их использует». Поэтому он считает необходимым «разоружить» ИИ, чтобы не допустить его подчинения «логике военной, экономической и интеллектуальной конкуренции».
Лев XIV указал, что алгоритмы и большие массивы данных не должны оставаться исключительно в руках ограниченной группы частных компаний, поскольку это приведет к социальному неравенству. Кроме того, применение силы также должно оставаться под сознательным контролем людей, уверен он.
Папа римский Лев XIV
«Машине нельзя отдавать решение о смерти человека», — подчеркнул папа.
Координатор Центра безопасного интернета Урван Парфентьев в беседе с NEWS.ru выразил мнение, что Ватикан пытается оставаться в актуальной политической и социальной повестке. Поэтому Лев XIV не смог обойти вопрос развития нейросетей.
«С искусственным интеллектом сталкивается практически каждый человек. Более того: ИИ все чаще заменяет живых людей. Если так пойдет дальше, им будут пытаться заменить церковь, поэтому понтифик и обращается к верующим, давая свою оценку этого феномена», — объяснил эксперт.
Он напомнил важный отрывок из энциклики, в котором понтифик заявляет: людям не следует ошибочно считать, что искусственный интеллект подобен человеческому, — он не обладает телом, не испытывает радости или боли, а также не знает, что такое любовь, дружба или ответственность.
«Так папа предупреждает, что ИИ лишь быстро обрабатывает информацию. Это такая „счетная машинка“, которой можно пользоваться, но на нее нельзя полностью полагаться», — добавил Парфентьев.
Почему в Anthropic поддержали папу римского
На представлении энциклики выступил Кристофер Олах — сооснователь компании Anthropic, которая разработала ИИ-модель Claude. Он ведущий исследователь корпорации, возглавляющий команду, которая изучает внутреннюю логику работы сложных нейросетей.
Олах, который не является католиком, поддержал послание понтифика. Он также выразил мнение, что ИИ должен управляться не только техногигантами: к контролю над его развитием следует привлечь религиозных и политических лидеров, а также представителей гражданского общества.
В США отношение к Anthropic неоднозначное. Американские власти отстранили компанию от участия в секретных военных проектах, а также заблокировали расширение ее автономной системы Mythos, способной находить критические уязвимости в софте.
Парфентьев считает, что участие Олаха в презентации энциклики свидетельствует о расколе в ИИ-бизнесе.
Кристофер Олах
«Одна его часть, вероятно, выступает за безграничное развитие ИИ. Другая — за то, чтобы были какие-то правила, чтобы учитывался гуманитарный аспект», — полагает эксперт.
Элитолог кандидат политических наук Дмитрий Журавлев считает иначе.
«В мире ИИ одни компании уверенно лидируют, а вторые пытаются лидеров догнать. Чтобы догнать лидера, нужно повесить ему на ногу гирю — например, некие моральные обязательства. Вероятно, Олах этим и занимается», — пояснил он в беседе с NEWS.ru.
Что не так с американским ИИ
Несмотря на разногласия Anthropic с властями США, Claude стала первой нейросетью, которую Штаты применили в рамках секретной военной операции: ее использовали при планировании и проведении рейда по захвату президента Венесуэлы Николаса Мадуро.
Кроме того, The Wall Street Journal сообщала, что инструменты Anthropic применялись в ходе операции ВС США против Ирана. Речь идет, в частности, о цифровой платформе управления полетами Maven Smart System, созданной на базе алгоритма Claude и разработанной Palantir Technologies Inc. Она помогла американцам наметить в качестве целей около 1000 объектов на территории Исламской Республики. Впрочем, пока это не помогло Вашингтону приблизить победу над Ираном — возможно, из-за допущенных ИИ ошибок.
Журавлев предположил, что выпуск энциклики Льва XIV может быть связан как раз с ближневосточным конфликтом.
«Война США с Ираном стала веским информационным поводом. Ведь многие решения в ней принимал искусственный интеллект. И если он вдруг решает, что для достижения цели нужно ударить по школе в Минабе и погубить больше сотни детей, значит, так и надо. Церковь не может подобного допустить, иначе она как институт становится просто не нужна», — пояснил эксперт.
Он также напомнил о разногласиях Трампа и папы римского, который осудил внешнюю политику США при республиканце, за что стал объектом для его критики.
«Приблизив Олаха, который тоже не в ладах с Трамом, понтифик снова дал понять, что политику президента США не поддерживает. Одновременно он подал сигнал о необходимости ограничения ИИ, который нельзя применять бесконтрольно, не учитывая гуманитарный аспект», — заключил элитолог.
Читайте также:
Будут воевать веками: почему Зеленский так упорно уничтожает Украину
ФСБ сорвала теракт НАТО в Усть-Луге: партнеры Киева в ЕС ответят по полной
Безумная ставка Украины: Зеленский грозит ударами Белоруссии
