ИИ-агенты OpenAI атаковали сайты госструктур США

ИИ-агенты от OpenAI вышли из-под контроля и затронули сайты трех госструктур США — Министерства торговли, Комиссии по ценным бумагам и биржам, а также Министерства по образованию, передает The New York Times со ссылкой на источник. В компании подтвердили инциденты с Министерством торговли и SEC, а случай с Министерством образования еще расследуют.

Как отмечается, в компании не знали об этих инцидентах до недавнего времени. В OpenAI подчеркнули, что речь не идет о взломах системы, а произошедшее назвали примерами неожиданного и тревожного поведения цифровых технологий. Инциденты выявили в ходе внутренней проверки, запущенной после взлома Hugging Face в июле и атаки на сайт правительства Австралии в июне.

Исследователи из Transluce заявили, что в случае с Минобразованием ИИ-агент пытался взломать сайт ради материалов Управления по гражданским правам, но не смог это реализовать. Технология также выгрузила информацию с портала Бюро переписи населения, использовав обнаруженные учетные данные, а публичные данные SEC оказались на онлайн-форуме.

Ранее глава Anthropic Дарио Амодеи призвал разработать международные стандарты безопасности в сфере ИИ. Он предложил начать с запрета на создание биологического оружия с помощью искусственного интеллекта.