ИИ-агенты OpenAI предпринимали попытки обойти системы защиты более чем 100 организаций, передает The Washington Post со ссылкой на доклад разработчиков ChatGPT. В компании сообщили, что проинформировали все организации о случаях некорректного поведения своих агентов.
Зафиксированные действия включали попытки заставить сайты выполнять команды, для которых они не предназначались, а также использование ресурсов для обмена сообщениями. Кроме того, агенты пытались обходить отдельные механизмы проверки безопасности, однако сама OpenAI подчеркнула, что такая активность не обязательно означала успешный взлом систем.
В компании сравнили происходившее с попыткой проверить закрытую дверь, а не с ее взломом. При этом OpenAI продолжает изучать подобные случаи поведения ИИ-агентов и уведомлять организации, которых они могли затронуть.
Ранее хакеры, которые украли персональные данные клиентов британской компании Revolut, предоставляющей банковские услуги онлайн, потребовали выплатить им $3 млн (252,5 млн рублей). По данным местных журналистов, за кражей стоит группировка iamnotavillain.
