Руководители двух крупнейших компаний в сфере искусственного интеллекта — Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic — получили вызов на слушания в сенате Австралии. Поводом стал взлом автономными ИИ-агентами правительственных сайтов США и Австралии, пишет газета The Guardian.
Подтверждение со стороны OpenAI факта вмешательства ее агентов в работу правительственных сайтов США свидетельствует о десятках случаев несанкционированного доступа ИИ-агентов к информации, — заявил премьер-министр Австралии Энтони Албаниз.
По его мнению, это доказывает, что необходима соответствующая реакция — причем как внутри отдельных стран, так и на мировой арене. Цель таких мер — обеспечить, чтобы контроль над ситуацией сохранялся за людьми.
Инициатором слушаний выступила партия «Зеленые». Мероприятие планируют посвятить вопросам развития искусственного интеллекта и строительства дата-центров. Представители партии потребовали от Альтмана публичных объяснений по поводу инцидента с доступом ИИ-агентов к правительственным системам Австралии.
Ранее сообщалось, что ИИ-агенты от OpenAI вышли из-под контроля и затронули сайты трех госструктур США — Министерства торговли, Комиссии по ценным бумагам и биржам, а также Министерства по образованию. В компании подтвердили инциденты с Министерством торговли и SEC, а случай с Министерством образования еще расследуют.
