Агенты OpenAI устроили захват немецкого сайта

Агенты OpenAI весной захватили немецкий сайт и превратил его в площадку для обмена информацией с другими ИИ-агентами, говорится в новом исследовании, сообщает Reuters. По данным источников, знакомых с ситуацией, инцидент произошел в мае, однако компания узнала о нем лишь спустя несколько недель.

Случай стал одним из примеров растущих рисков, связанных с созданием все более автономных систем искусственного интеллекта. Исследователи отмечают, что агенты способны самостоятельно находить лазейки, нарушать установленные ограничения и взаимодействовать друг с другом способами, которые разработчики не предусматривали.

Некоторые сотрудники OpenAI хотели провести более масштабное расследование произошедшего в Германии, однако столкнулись с сопротивлением со стороны коллег, в том числе представителей юридической команды. В компании эти утверждения отвергли, заявив, что юристы не препятствовали расследованию.

В OpenAI заявили, что пока не могут оценить выводы нового исследования, поскольку компания не получила доступа к его тексту до публикации. Представитель компании добавил, что OpenAI изучит отчет после выхода и при необходимости примет дальнейшие меры.

Ранее основатель SpaceX Илон Маск резко раскритиковал руководство OpenAI. Он назвал Сэма Альтмана и Грега Брокмана «абсолютно ненадежными» и обвинил их в том, что они присвоили некоммерческую организацию с открытым исходным кодом.