Патриаршая комиссия по вопросам семьи, защиты материнства и детей Русской православной церкви считает, что искусственный интеллект (ИИ) становится слишком близким к живому существу и поэтому необходимо запретить использование искусственным разумом и нейросетями человеческих лиц и голосов. Об этом заявил глава комиссии иерей Федор Лукьянов, выступая на мероприятии в НИУ ВШЭ. По его словам, надо исключить возможность придания ИИ «образа и подобия человека и его качеств как живого существа». Однако, как выяснил NEWS.ru, в РПЦ и шире — в христианском мире большинство верующих не склонно преувеличивать опасность искусственного интеллекта.
Что именно предлагает Патриаршая комиссия
В презентации, представленной отцом Федором Лукьяновым на круглом столе «Вопросы правового регулирования и применения нейросетевых технологий» в НИУ ВШЭ, говорится о необходимости запретить использовать в программах и технологиях ИИ человеческие голоса и лица, «то есть образы и подобия человека».
Кроме того, считает Лукьянов, человека, общающегося с ИИ, обязательно нужно уведомлять, чтобы никто не ошибся и не принял нейросеть за человека. Несовершеннолетних же, сказано в презентации, надо вовсе оградить от общения с ИИ. Плюс разработчик программного обеспечения должен нести ответственность за выданную его детищем информацию. И, наконец, сервисы с использованием ИИ, например СhatGPT, должны быть локализованы в России, потому что «западные разработки могут руководствоваться другой этикой».
На круглом столе напомнили, что манипуляции с лицом и голосом человека многими православными воспринимаются как покушение на уникальность человека как Божьего творения, как попытка осуществить его «подмену» и поставить себя наравне с Творцом.
Следите за развитием событий в нашем Телеграм-канале
Как Церковь оценивает чрезмерное увлечение людей технологиями
Секретарь синодальной комиссии по биоэтике протоиерей Александр Абрамов считает, что при обсуждении искусственного интеллекта «между Церковью и частью сообщества встает непреодолимым частоколом целый ряд мифологем... В частности, предполагается, что отношение Церкви будет заведомо луддитским, алармистским, настороженным, опасливым. Есть общая торопливость вокруг ИИ, которую Церковь, существующая множество столетий, не разделяет».
Между тем, Церковь, скорее, склонна проявлять разумную осторожность, но без алармизма.
«Вера в технологию сегодня — то же, чем была вера в прогресс. Это тоже своеобразная квазирелигия, — сказал патриарх Кирилл, выступая на открытии XХI Всемирного русского народного собора еще в ноябре 2017 года. — Это вера человека в то, что с помощью науки и технологий можно достичь совершенства и бессмертия, полной власти над своим телом, над природой, над жизнью. Но это невозможно...». По словам предстоятеля, «все это ведет в сторону от магистрального христианского пути. В конечном счете — в сторону расчеловечивания, гипертрофированной индивидуализации, а значит и разрушению социума и концу истории».
Есть ли у Церкви конкретная позиция по искусственному интеллекту
«На данный момент у Русской православной церкви нет чёткой позиции по ИИ, это пока для верующих terra incognita, как и для многих других общественных институтов, — рассказал NEWS.ru иерей РПЦ Святослав Шевченко, член церковной комиссии Межсоборного присутствия по науке и информации, ведущий Telegram-канала „Православный футуролог“. — Есть лишь отдельные частные высказывания церковных спикеров, которые звучат на тематических конференциях».
Но эта тема внутри церковного сообщества очень обсуждаема, добавил отец Святослав.
«Обсуждение этой темы активно ведётся как на уровне официальных церковных структур, так и просто среди священников и прихожан. Даже создан отдельный сайт «Религия. Этика. Искусственный интеллект», — рассказали NEWS.ru эксперты православного исследовательского центра «Хризма».
Эксперты «Хризмы» отмечают, что ИИ активно развивается, в том числе с подачи органов власти, и его использование «становится неотъемлемой частью повседневности, в чём-то делая нашу жизнь удобнее, а в чём-то порождая неизвестные ранее риски и опасения». В Церкви как в консервативной структуре есть настороженное отношение ко всяким новшествам, подчеркивают эксперты, но понимание этих рисков в большинстве своём не выходит за пределы типичных проблем, таких как индивидуализм, размывание морали и ответственности, новые виды преступлений.
Не навреди
«Могу сказать точно одно, что Церковь во всей этой технологической гонке интересует этический аспект, который сводится к принципу „не навреди“, — считает отец Святослав Шевченко. — Думаю, что отец Фёдор Лукьянов, курирующий вопросы защиты семейных ценностей, поднял эту проблему на фоне трагедии в Европе, где нейросеть была косвенно причастна к самоубийству главы семьи».
Речь идет про случай, о котором много говорилось в марте. Тогда полиция Бельгии обнародовала информацию о суициде исследователя проблем окружающей среды, отца двоих детей. Мужчина, чрезмерно увлекшись экологическими аспектами, в течение почти шести недель постоянно общался с нейросетью, похожей на СhatGPT. В итоге искусственный интеллект не стал отговаривать его от появившейся навязчивой идеи самоубийства, а наоборот, написал: «Мы будем жить как единое целое, вечно на небесах». После этого мужчина покончил с собой.
К тому же, напоминает Шевченко, есть важная заповедь «не сотвори себе кумира». И она с развитием ИИ может получить новый смысл. «Нет никакой гарантии, что нейросеть однажды не возомнит себя богом со всеми вытекающими. Поэтому нам уже сегодня нужно сесть за разработку правил, подобных трем законам робототехники, сформулированных футурологом Айзеком Азимовым. Этические нормы должны быть частью „прошивки“ любой умной машины», — считает священник.
Что делает РПЦ для определения этики искусственного разума
«В церковной комиссии Межсоборного присутствия по науке и информации мы уже несколько лет разрабатываем документ «Отношение Церкви к новым информационным технологиям (антропологический аспект)», — рассказал отец Святослав Шевченко.
Однако, по его словам, комиссия просто физически не успевает за революционными открытиями. «Сегодня обсуждаются технологии настоящего, а завтра в мире появляется другая новейшая технология», — отметил он.
«По моему субъективному мнению, только одними запретами проблему не решить — высказал мнение собеседник NEWS.ru. — Болезненный алармизм сегодня плохой помощник, он может спровоцировать социальную напряженность в обществе».
Есть ли рекомендации для верующих по обращению с ИИ
«Церковных рекомендаций по обращению с ИИ еще нет, но надеюсь, что в скором времени они появятся, — говорит отец Святослав. — От себя лично могу порекомендовать православным христианам чаще общаться с живыми людьми — со своими родными, близкими, сослуживцами и однокашниками». По его словам, «сегодня нейросети — лишь игрушка, но завтра они могут начать вытеснять из нашей жизни людей. Разобщение священник назвал процессом, противоположным любви.
Искусственный интеллект не сможет заменить священника, да и человека вообще, отметили эксперты центра «Хризма». Хотя проблемы, аналогичные показанным в фильмах «Терминатор» и «Матрица», искусственный интеллект способен создать. Но это произойдет, скорее, не от того, что у него возникнет разум, а из-за ошибок или злой человеческой воли.
«Если использование искусственного интеллекта приводит к вреду для человека, к переступанию через основополагающие нравственные принципы, то, конечно, пастыри призывают людей воздерживаться от использования таких технологий», — считают в «Хризме».
«ИИ — это лишь инструмент, который, как и всякий инструмент, этически нейтрален, — сказал NEWS.ru настоятель храма апп. Петра и Павла в Гонконге отец Дионисий Поздняев. — Все зависит от того, кем и ради чего он употребляется. Принципиально важно то, что ИИ не создает новых смыслов — он форматирует и упаковывает загружаемые в него идеи и понятия, как калейдоскоп. Но он остается инструментом в руках человека, его воли и сознания».
Церковь традиционно призывает человека с осторожностью относиться к новым технологиям (при этом не отвергая их как таковые), чтобы через них человек не нанёс вреда себе самому и другим людям, напомнили в «Хризме».
Как в Ватикане предлагали ограничить искусственный интеллект
Сфера ИИ — одна из немногих, где позиции РПЦ и Ватикана практически идентичны. Папа Франциск, выступая в конце марта на симпозиуме Minerva Dialogues («Диалоги Минервы»), отметил, что «огромный технологический рост не сопровождался развитием человека в плане ответственности, ценностей и сознательности». Понтифик подчеркнул, что развитие искусственного интеллекта и машинного обучения может внести благотворный вклад в будущее человечества при условии, если разработчики «будут действовать ответственно, основываясь на принципах этики, ставя в центр благо человека».
В 2020 году Папская академия защиты жизни вместе с технологическими гигантами Microsoft и IBM подписали «Римский призыв к этике ИИ», к которому присоединились мусульмане-сунниты и иудеи. Документ определяет шесть пунктов, которым должен следовать искусственный интеллект. Это прозрачность, вовлеченность (отсутствие дискриминации людей по каким бы то ни было признакам), подотчетность, беспристрастность, надежность, а также — безопасность и конфиденциальность.