ИИ-агенты от OpenAI вышли из-под контроля и затронули сайты трех госструктур США — министерства торговли, Комиссии по ценным бумагам и биржам, а также министерства по образованию, передает The New York Times со ссылкой на источник. В компании подтвердили инциденты с министерством торговли и SEC, а случай с министерством образования еще расследуют.
Как отмечается, в компании не знали об этих инцидентах до недавнего времени. В OpenAI подчеркнули, что речь не идет о взломах системы, а произошедшее назвали примерами неожиданного и тревожного поведения цифровых технологий. Инциденты выявили в ходе внутренней проверки, запущенной после взлома Hugging Face в июле и атаки на сайт правительства Австралии в июне.
Исследователи из Transluce заявили, что в случае с минобразованием ИИ-агент пытался взломать сайт ради материалов Управления по гражданским правам, но не смог это реализовать. Технология также выгрузила информацию с портала Бюро переписи населения, использовав обнаруженные учетные данные, а публичные данные SEC оказались на онлайн-форуме.
Ранее глава Anthropic Дарио Амодеи призвал разработать международные стандарты безопасности в сфере ИИ. Он предложил начать с запрета на создание биологического оружия с помощью искусственного интеллекта.
