Пентагон доверяет ИИ вести войну: теперь роботы будут убивать людей?

Пентагон вынашивает планы по передаче управления оружием американских войск искусственному интеллекту. Против этого активно выступают крупные подрядчики ведомства, которые занимаются разработкой систем на базе ИИ. Опрошенные NEWS.ru эксперты считают: их опасения вовсе не беспочвенны. Зачем военным нужны нейросети, почему напряженность между их создателями и правительством США растет и кто в итоге будет вести войны — человек или машина, — читайте в материале NEWS.ru.

Почему конфликтуют Пентагон и Anthropic

В конце января стало известно о конфликте между Министерством войны США и одним из его основных подрядчиков — компанией Anthropic, разработавшей модель искусственного интеллекта Claude. Целью их сотрудничества было внедрение ИИ в военные операции в рамках программы американского правительства по использованию ИИ. При этом, помимо Anthropic, Пентагон заключил такие контракты с Google, OpenAI и xAI Илона Маска.

По данным Reuters и The Wall Street Journal, напряженность между разработчиком Claude и военным ведомством Штатов возникла практически сразу после заключения соглашения. Камнем преткновения стал запрет Anthropic на использование ее языковой модели для любых действий, связанных с внутренней слежкой: это ограничивает применение ИИ-агента для операций ФБР и Иммиграционной таможенной службы (ICE). Кроме того, компания опасается, что ее инструменты могут быть использованы для автоматического наведения оружия на цель без достаточного человеческого контроля.

Заведующий центром ИАМП Дипломатической академии МИД РФ Вадим Козюлин в беседе с NEWS.ru отметил: никто не желает передать ИИ функции ведения войны, в том числе и Пентагон. Однако сегодня именно технологии зачастую диктуют людям, как жить и действовать.

«Они вынуждают прибегать к их помощи, потому что люди не успевают вовремя реагировать на те или иные процессы. Человек проигрывает ИИ чисто по физическим качествам. Например, он не сможет оценить тот массив данных, который был собран разведкой», — пояснил эксперт.

Сегодня нейросети не только собирают сведения, но и обрабатывают их, анализируют и трансформируют в целеуказания. Человеку остается лишь одобрить сценарий и нажать на кнопку.

«Понятно, что человек сам ничего не понял и не осмыслил. Но счет идет на секунды. Кто первый смог проанализировать собранную информацию и отдать указание на поражение цели, тот и выиграл бой», — добавил Козюлин.

Чего хотят в Пентагоне

В американском Министерстве войны считают, что у военных должна быть возможность внедрять коммерческие технологии ИИ вне зависимости от политики компаний. Главное условие — эти действия не должны противоречить законодательству США.

При этом платформа Digwatch отмечает, что конфликт между Пентагоном и Anthropic — лишь часть более глобальной картины, в которой напряженность между правительством и компаниями Силиконовой долины по вопросу использования ИИ в военных целях только растет.

Политолог и исследователь проблем ИИ Юрий Шевцов в беседе с NEWS.ru выразил мнение, что проблема заключается в культурной атмосфере, сложившейся среди IT-специалистов в США.

«Глобалистски мыслящие айтишники, как правило, пацифисты. И они регулярно поднимают бунты против своих же корпораций, чтобы те не занимались военными разработками», — сказал эксперт.

По его словам, в чем-то нынешняя ситуация напоминает о «впечатлительности» физиков-ядерщиков в годы холодной войны.

«Она привела к появлению целого огромного движения во главе с Альбертом Эйнштейном и писателем Бертраном Расселом против ядерной войны. Не так давно около тысячи айтишников, причем ключевых, подписали документ-обращение с предупреждением о том, что ИИ развивается слишком быстро и может выйти из-под контроля. Теперь кого ни послушать — техноскептицизм такой, что хоть ползи на кладбище», — добавил Шевцов.

Будет ли ИИ воевать вместо людей

Впрочем, опасения IT-специалистов не беспочвенны — и это подтверждают опрошенные NEWS.ru эксперты. По словам Козюлина, многим сегодня не нравится, что машине фактически хотят передать право «уничтожать человеческую душу».

«Есть правила ведения войны, которые писались десятилетиями. Там указано все: как относиться к гражданским, пленным, раненым, медперсоналу во время боевых действий. Есть люди, которые уверены, что ИИ не станет их соблюдать. Но по большому счету за искусственным интеллектом стоит программист — человек, который выставляет параметры работы программ. Машина лишь исполняет алгоритмы — иногда слишком хорошо», — отметил он.

Шевцов в свою очередь обратил внимание на вполне реальную проблему выхода ИИ из-под контроля программиста и оператора.

«Примерно год назад были учения с симуляцией выполнения ИИ боевой задачи. Тогда машина пришла к выводу, что осуществить ее мешает оператор, и нанесла удар по собственному пункту управления. Восстание машин, чьи возможности только растут, все меньше похоже на сказку», — подчеркнул эксперт.

Однако, считает Шевцов, не стоит упускать из виду и так называемую ИИ-элиту, которая стремится к выполнению поставленных перед ней задач. А они весьма амбициозные.

«Это и космические базы данных, основанные на космической же энергетике, и глобальная система ПРО „Золотой купол“, основанная на ИИ и новых видах оружия, которая в случае реализации позволит сбивать из космоса баллистические ракеты в течение секунд после старта», — перечислил политолог.

Сам Пентагон, по словам Шевцова, уже не успевает за производством: все больше сегментов в области национальной безопасности будет передаваться на аутсорсинг напрямую в руки корпораций и их ИИ-возможностей. «Это что-то вроде новых крестоносцев», — добавил Шевцов.

Депутат Госдумы Николай Будуев в разговоре с NEWS.ru подчеркнул: вопрос о том, кто будет убивать — человек или машина, успел стать фундаментальным и разделил мир на два лагеря: сторонников «гуманного контроля» и адептов «абсолютной эффективности».

«Реальность такова, что мы находимся в переходном периоде, где оба варианта развиваются параллельно», — резюмировал он.

Читайте также:

Минюст слил десятки фото девушек без одежды по делу Эпштейна: что известно

Начнут третью мировую? Запад придумал ответ на нарушение мира на Украине

Кто такой Эпштейн: кто в «списке педофилов», что за остров, связь с Россией