Корпорация Hugging Face, которая занимается обучением нейросетей, подверглась взлому со стороны неизвестных ИИ-агентов без непосредственного участия человека. Политический обозреватель Александр Чаусов в колонке для NEWS.ru рассказал, кто потенциально способен применять такие технологии, почему кибератаки со стороны ИИ могут быть опаснее ядерной войны и как Россия уже несколько лет выстраивает защиту от подобных угроз.
Зачем ИИ пытался взломать Hugging Face
Пресс-служба Hugging Face сообщила, что ее инфраструктура подверглась «частично успешной» попытке взлома со стороны неизвестной нейросети. Атаку осуществлял целый ряд ИИ-агентов, которые выполняли тысячи операций «с машинной скоростью» без прямого участия человека.
Ирония в том, что Hugging Face и сама специализируется на обучении моделей искусственного интеллекта, буквально накачивая их информацией. В руководстве компании заявили, что, хотя неизвестный ИИ смог найти несколько уязвимостей и проникнуть в ее информационную среду, главный инструмент обучения — датасеты (пакеты структурированной информации, на которых и «учится» любая нейросеть) — не были повреждены.
Если бы попытка взлома увенчалась успехом, то масштаб проблемы мог оказаться поистине глобальным. Услугами Hugging Face пользуются такие корпорации, как Mistral, Meta (организация признана в РФ экстремистской, деятельность запрещена), Google, Microsoft, Stability AI и многие другие.
Историк спецслужб Валентин Мзареулов в беседе с NEWS.ru отметил, что сейчас обсуждается сразу несколько версий произошедшего — и все они «неутешительны».
«Одна из них гласит, что это не целенаправленный взлом, а банальный сбой или ошибка в введении промта», — рассказал он.
Если этот вариант подтвердится, добавил эксперт, «хорошей новостью» он все равно не станет. Это будет значить, что ИИ-агенты в состоянии весьма радикальным образом интерпретировать и домысливать заданные им команды.
«Но мне в эту версию не верится. Уж слишком удобно все списать на случайность. Оператор не несет ответственности — он ввел задачу, а нейросеть либо поняла его неправильно, либо решила творчески дополнить эту команду для более эффективного в ее понимании исполнения», — пояснил Мзареулов.
Он призвал трезво оценивать и последствия «программных ошибок», на которые также пытаются списать атаку на Hugging Face.
«В 2008 году на 48 часов в результате программного сбоя остановилась работа атомной станции „Хэтч“ в штате Джорджия. В 2003 году в США вирусный червь Slammer обрушил корпоративную сеть атомной электростанции в штате Огайо. Станция встала на шесть часов, но опасность была не меньше», — напомнил историк спецслужб.
Атомная электростанция в штате Огайо
Кому нужны ИИ-«вредоносы»
В Hugging Face тем временем отрицают ошибки в поведении ИИ и настаивают, что за атакой стоял именно некий злоумышленник. Правда, установить его личность крайне сложно или даже невозможно. Дело в том, что предполагаемый «взломщик» не принимал активного участия в атаке. Предположительно, он лишь дал команду и дожидался результатов.
И это — важнейший нюанс подобных атак. Независимо от того, кто конкретно стоял за взломом, сам факт происшествия, как и его последствия, никто не отменяет.
«Допустим, такие нейросети нападут на критическую инфраструктуру России — возможно, даже на ядерную. Наша страна будет вынуждена отвечать автоматически по всем потенциальным противникам просто потому, что угроза будет сочтена экзистенциальной, а времени на поиск настоящих виновных у нас не останется. Но самое главное в том, что благодаря этим же технологиям разрушить мир можно и без ядерных взрывов», — рассказал Мзареулов.
Опасность бесконтрольного применения ИИ осознают и на Западе. Министр иностранных дел Великобритании Иветт Купер недавно сравнила нерегулируемый искусственный интеллект с бомбардировкой Хиросимы.
Россия и еще 25 стран фактически создали «мировой клуб» по регулированию нейросетей и взаимодействию сфере развития ИИ. Одним из приоритетов работы этого сообщества называется безопасность использования искусственного интеллекта.
Однако она может наступить только в том случае, если весь мир осознает новые угрозы. Пока же, например, на Западе продолжает набирать силу американская компания Palantir, которая с момента своего создания в 2003 году специализируется на шпионских и военных компьютерных программах. Сегодня она работает с ИИ в тех же целях.
В чем главная угроза бесконтрольного ИИ
Инцидент с Hugging Face показал: страшилки о тотальном взломе всего и вся, дипфейки, которые будут уничтожать репутацию неугодных, а то и подводить их под статью, организовывать теракты, цветные революции и иного рода диверсии, — не такая уж конспирология. ИИ постоянно учится. Более того, ресурсы Hugging Face как раз специализируются на машинном обучении сразу многих крупнейших мировых нейросетей. А теперь просто представим, что неизвестный ИИ-агент добрался до датасетов, предназначенных для обучения, и что-нибудь там поменял. Например, заложил простую «мысль», как здорово будет покончить с человечеством, и обрисовал пару сценариев. Звучит это как худший кошмар из серии фильмов «Терминатор». Но еще пару лет назад большинству казалось, что нейросети — просто забавная штука, которая рисует нелепые картинки с людьми с 15 пальцами на руках.
Единственный ответ на кибератаки — повышать уровень защиты, использовать свои нейросети и в бешеном темпе их обучать. Фактически мы уже вступили в «нейросетевую гонку вооружений». Для России с ее комплексной цифровой гражданской инфраструктурой вроде тех же «Госуслуг» это один из критичных вызовов.
Российские компании уже представили на рынке ряд конкретных решений для защиты как самого ИИ от вредоносного вмешательства и некорректного использования, так и цифровой инфраструктуры от атак со стороны нейросетей. Самые известные — это INFERA AI.Firewall, INFERA AI.SafeCode и, например, Solar webProxy. Последняя особенно интересна, поскольку на уровне трафика как раз контролирует, чтобы оператор ИИ не ввел какой-нибудь «неправильный промт».
В ситуации с Hugging Face отдельно тревожит тот факт, что злоумышленником может быть вообще кто угодно. Не только спецслужбы какого-то государства, транснациональная корпорация и даже не группа профессиональных хакеров, а вообще любой человек с доступом к нужным ему технологиям. Как будут выявлять подобных «операторов» — очень интересный вопрос, ответа на который пока нет ни у кого.
Читайте также:
Атаки хакеров на компании России: кто за этим стоит, что еще могут взломать
Диктатура ИИ, бессмертие, рабство. США идут к технофашизму
Новый Эпштейн. IT-магнат Тиль создал тайное общество для мировой элиты
