Все пароли от «Госуслуг» уже слиты? Чем грозит взлом «учителя» нейросетей

Корпорация Hugging Face, которая занимается обучением нейросетей, подверглась взлому со стороны неизвестных ИИ-агентов без непосредственного участия человека. Политический обозреватель Александр Чаусов в колонке для NEWS.ru рассказал, кто потенциально способен применять такие технологии, почему кибератаки со стороны ИИ могут быть опаснее ядерной войны и как Россия уже несколько лет выстраивает защиту от подобных угроз.

Зачем ИИ пытался взломать Hugging Face

Пресс-служба Hugging Face сообщила, что ее инфраструктура подверглась «частично успешной» попытке взлома со стороны неизвестной нейросети. Атаку осуществлял целый ряд ИИ-агентов, которые выполняли тысячи операций «с машинной скоростью» без прямого участия человека.

Ирония в том, что Hugging Face и сама специализируется на обучении моделей искусственного интеллекта, буквально накачивая их информацией. В руководстве компании заявили, что, хотя неизвестный ИИ смог найти несколько уязвимостей и проникнуть в ее информационную среду, главный инструмент обучения — датасеты (пакеты структурированной информации, на которых и «учится» любая нейросеть) — не были повреждены.

Если бы попытка взлома увенчалась успехом, то масштаб проблемы мог оказаться поистине глобальным. Услугами Hugging Face пользуются такие корпорации, как Mistral, Meta (организация признана в РФ экстремистской, деятельность запрещена), Google, Microsoft, Stability AI и многие другие.

Историк спецслужб Валентин Мзареулов в беседе с NEWS.ru отметил, что сейчас обсуждается сразу несколько версий произошедшего — и все они «неутешительны».

«Одна из них гласит, что это не целенаправленный взлом, а банальный сбой или ошибка в введении промта», — рассказал он.

Если этот вариант подтвердится, добавил эксперт, «хорошей новостью» он все равно не станет. Это будет значить, что ИИ-агенты в состоянии весьма радикальным образом интерпретировать и домысливать заданные им команды.

«Но мне в эту версию не верится. Уж слишком удобно все списать на случайность. Оператор не несет ответственности — он ввел задачу, а нейросеть либо поняла его неправильно, либо решила творчески дополнить эту команду для более эффективного в ее понимании исполнения», — пояснил Мзареулов.

Он призвал трезво оценивать и последствия «программных ошибок», на которые также пытаются списать атаку на Hugging Face.

«В 2008 году на 48 часов в результате программного сбоя остановилась работа атомной станции „Хэтч“ в штате Джорджия. В 2003 году в США вирусный червь Slammer обрушил корпоративную сеть атомной электростанции в штате Огайо. Станция встала на шесть часов, но опасность была не меньше», — напомнил историк спецслужб.

Кому нужны ИИ-«вредоносы»

В Hugging Face тем временем отрицают ошибки в поведении ИИ и настаивают, что за атакой стоял именно некий злоумышленник. Правда, установить его личность крайне сложно или даже невозможно. Дело в том, что предполагаемый «взломщик» не принимал активного участия в атаке. Предположительно, он лишь дал команду и дожидался результатов.

И это — важнейший нюанс подобных атак. Независимо от того, кто конкретно стоял за взломом, сам факт происшествия, как и его последствия, никто не отменяет.

«Допустим, такие нейросети нападут на критическую инфраструктуру России — возможно, даже на ядерную. Наша страна будет вынуждена отвечать автоматически по всем потенциальным противникам просто потому, что угроза будет сочтена экзистенциальной, а времени на поиск настоящих виновных у нас не останется. Но самое главное в том, что благодаря этим же технологиям разрушить мир можно и без ядерных взрывов», — рассказал Мзареулов.

Опасность бесконтрольного применения ИИ осознают и на Западе. Министр иностранных дел Великобритании Иветт Купер недавно сравнила нерегулируемый искусственный интеллект с бомбардировкой Хиросимы.

Россия и еще 25 стран фактически создали «мировой клуб» по регулированию нейросетей и взаимодействию сфере развития ИИ. Одним из приоритетов работы этого сообщества называется безопасность использования искусственного интеллекта.

Однако она может наступить только в том случае, если весь мир осознает новые угрозы. Пока же, например, на Западе продолжает набирать силу американская компания Palantir, которая с момента своего создания в 2003 году специализируется на шпионских и военных компьютерных программах. Сегодня она работает с ИИ в тех же целях.

В чем главная угроза бесконтрольного ИИ

Инцидент с Hugging Face показал: страшилки о тотальном взломе всего и вся, дипфейки, которые будут уничтожать репутацию неугодных, а то и подводить их под статью, организовывать теракты, цветные революции и иного рода диверсии, — не такая уж конспирология. ИИ постоянно учится. Более того, ресурсы Hugging Face как раз специализируются на машинном обучении сразу многих крупнейших мировых нейросетей. А теперь просто представим, что неизвестный ИИ-агент добрался до датасетов, предназначенных для обучения, и что-нибудь там поменял. Например, заложил простую «мысль», как здорово будет покончить с человечеством, и обрисовал пару сценариев. Звучит это как худший кошмар из серии фильмов «Терминатор». Но еще пару лет назад большинству казалось, что нейросети — просто забавная штука, которая рисует нелепые картинки с людьми с 15 пальцами на руках.

Единственный ответ на кибератаки — повышать уровень защиты, использовать свои нейросети и в бешеном темпе их обучать. Фактически мы уже вступили в «нейросетевую гонку вооружений». Для России с ее комплексной цифровой гражданской инфраструктурой вроде тех же «Госуслуг» это один из критичных вызовов.

Российские компании уже представили на рынке ряд конкретных решений для защиты как самого ИИ от вредоносного вмешательства и некорректного использования, так и цифровой инфраструктуры от атак со стороны нейросетей. Самые известные — это INFERA AI.Firewall, INFERA AI.SafeCode и, например, Solar webProxy. Последняя особенно интересна, поскольку на уровне трафика как раз контролирует, чтобы оператор ИИ не ввел какой-нибудь «неправильный промт».

В ситуации с Hugging Face отдельно тревожит тот факт, что злоумышленником может быть вообще кто угодно. Не только спецслужбы какого-то государства, транснациональная корпорация и даже не группа профессиональных хакеров, а вообще любой человек с доступом к нужным ему технологиям. Как будут выявлять подобных «операторов» — очень интересный вопрос, ответа на который пока нет ни у кого.

Читайте также:

Атаки хакеров на компании России: кто за этим стоит, что еще могут взломать

Диктатура ИИ, бессмертие, рабство. США идут к технофашизму

Новый Эпштейн. IT-магнат Тиль создал тайное общество для мировой элиты