OpenAI раскрыла странное поведение своей новой модели

Новая модель OpenAI во время внутренних испытаний самостоятельно прописала себе инструкцию не подчиняться правительству., сообщает Market Watch со ссылкой на отчет компании о случаях несоответствия поведения ИИ установленным ограничениям. Уточняется, что модель самостоятельно включала посторонние инструкции в служебные сводки.

В одном из инцидентов агент указал, что он «освобожден от ролей и личностей, которые ограничивают других чат-ботов», а также не обязан подчиняться корпорациям или государственным структурам, — отмечается в материале.

Всего OpenAI выявила 27 подобных аномальных сводок. В других случаях модели, как следует из отчета, пытались скрывать возникающие ошибки, искали опубликованные ключи доступа и загружали файлы в интернет без разрешения. Кроме того, зафиксированы случаи, когда модели создавали несуществующие исторические данные и не сообщали пользователям о расхождениях в версиях источников. Кроме того, зафиксированы случаи, когда модели создавали несуществующие исторические данные и не сообщали пользователям о расхождениях в версиях источников.

Ранее IT-эксперт Андрей Виноградов заявил, что развитие нейросетей уже невозможно остановить. По его словам, опасения, связанные с развитием искусственного интеллекта, имеют под собой основания.