Управляемые не по воле человека, а компьютерными алгоритмами боевые роботы ещё не созданы, но их уже хотят запретить. Но какие бы аргументы ни приводили противники таких технических новинок, страны-производители всё равно заблокируют любую международную инициативу, считают специалисты.
Группы экспертов по смертоносным автономным системам вооружений (САС) стран ООН завершают переговоры о запрете использования боевых роботов. Мероприятие проходит в Женеве (27−31 августа) в формате Конвенции ООН по негуманному оружию, в рамках которой родились запреты многих видов вооружений, включая напалм и кассетные бомбы.
Правозащитные организации (Human Right Watch, Amnesty International и другие) и общественные активисты ещё в 2013 году начали глобальную компанию Stop Killer Robots. Цель — запретить использование роботов-убийц ещё до их создания. С инициативой ввести превентивный мораторий на создание САС выступили 26 государств, в том числе Бразилия, Австралия, Аргентина, Ватикан, Боливия, Куба, Уганда, Пакистан и Китай. Открытое письмо с поддержкой запрета подписали более 230 организаций и около 3000 предпринимателей. Среди противников «терминаторов» — основатель компаний Tesla и SpaceX Илон Маск. «Решение лишить человека жизни не должно быть делегировано роботу», — цитирует текст письма DW.
Сторонники запрета бьют тревогу: автономное смертоносное оружие не создано, но многие производители уже активно внедряют элементы искусственного интеллекта и автоматизации в новые виды вооружения: беспилотные летательные аппараты, роботов-часовых, аппараты для обезвреживания взрывных устройств, подводные и надводные дроны, «роботов-танков». Следовательно, необходимо заранее выработать международный правовой документ, запрещающий использовать полностью автономные от воли человека аппараты, которые смогут уничтожать цели не по заданию оператора (дистанционному или внесённому в программу заранее), а на основе самостоятельно принятых решений, заложенных в алгоритме. «Мы не можем вживить этим вооружениям чип международного права», — цитирует DW главу немецкой организации Facing Finance, участника кампании Stop Killer Robots Томаса Кюхенмайстера. Самоуправляемые системы, к примеру, не смогут различить военный и гражданский грузовик в зонах вооружённых конфликтов. Координатор кампании Stop Killer Robots Мэри Верхэм выражает надежду, что конвенция, запрещающая использование САС, будет принята, а страны, не поддержавшие её, рискуют «остаться за бортом международной политики».
С утверждением противников САС, что в ближайшем будущем у ведущих разработчиков появится возможность создать полностью роботизированные системы с ударными задачами, согласен эксперт в области беспилотных систем Денис Федутинов: «Повышение автономности действий является актуальными задачами для военных различных стран и, соответственно, для компаний-разработчиков. Системы искусственного интеллекта демонстрируют весьма интенсивное развитие».
Между тем эксперт разделяет мнение о недопустимости делегирования вопросов применения оружия «роботам». В настоящее время, подчёркивает Федутинов, когда некий беспилотный летательный аппарат наносит удар по целям противника, это делает не обезличенный искусственный интеллект, а человек-оператор. «У каждой ошибки есть имя, фамилия и соответствующая ответственность». В случае если роботам будет позволено самостоятельно принимать решение о применении оружия, ответственность размывается — возможные невинные жертвы будут результатом просто какого-то технического сбоя, добавляет он.
Категоричность противников боевых роботов не разделяет большинство ведущих держав: Россия, США, Израиль, Великобритания и другие. В этих странах также заявляют о недопустимости устранения человека от принятия решения на убийство, но считают инициативу законодательного запрета на боевых роботов преждевременной. РФ полагает, что принятые нормы международного права могут быть вполне применимы к САС и потому нет необходимости создавать отдельные международные законы применительно к несуществующему оружию.
В российском МИДе указывают на «сложности с чётким разграничением гражданских и военных разработок в области автономных систем», в то же время Москва готова поддержать декларацию о необходимости сохранения человеческого контроля над САС. В Вашингтоне также предлагают отказаться от «поспешных суждений» относительно разрабатываемых видов вооружений. «Проблемы, связанные с автономией в системах вооружений, являются сложными… Для их понимания необходим дальнейший предметный диалог», — передаёт слова представителя Госдепартамента The Washington Times. Промежуточную позицию занимает Германия, которая является сторонницей постепенного запрета САС, но лишь после длительного диалога, на котором стороны придут к общему мнению.
В компании слабых в военном отношении государств — сторонников законодательного запрета САС неожиданно оказался Китай — страна, активно разрабатывающая БЛА (в том числе ударные) и подводные дроны. Американские СМИ подозревают Пекин в двуличной позиции: якобы на публику он играет в «хорошего парня», а на деле сам разрабатывает собственных роботов-убийц. «Китай может намеренно придерживаться двусмысленной стратегии в отношении норм международного права. На словах он может активно поддерживать запрет, чтобы отвлекать внимание от собственных разработок смертоносного автономного оружия», — отмечает The Washington Times.
С точки зрения международного права эта проблема совершенно надуманна, отмечает News.ru эксперт Центра анализа стратегий и технологий Михаил Барабанов: очередная химера по «контролю над вооружениями», проталкиваемая пацифистами и малыми странами, — в духе борьбы с кассетным оружием. Автоматизировать работу систем вооружений до такого уровня, что решения о поражении будет принимать робот, можно уже сейчас.
Чтобы сбои не приводили к невинным жертвам, нужно не запрещать, а улучшать алгоритмы, считает Барабанов. Китай, по его мнению, присоединился к инициативе из вежливости, полагая, что идею этого бесполезного соглашения и так «затопят» Россия и США. «Крупным, развитым в военно-промышленном отношении странам это совершенно не нужно, но по традициям политкорректности они вынуждены участвовать в мероприятиях и делать дежурные заявления, ожидая, когда обсуждения потеряют смысл», — заключает Барабанов.
