Глава РАН раскрыл, как ИИ сделать безопасным для людей

Искусственный интеллект из соображений безопасности необходимо контролировать с помощью другой модели ИИ, заявил РИА Новости президент Российской академии наук Геннадий Красников. По его словам, технологии продолжат развиваться, и в какой-то момент людям будет еще труднее заниматься надзором нейросетей.

Мы должны создавать такие модели, когда один ИИ контролирует другой ИИ, может быть, еще третий для того, чтобы обеспечить большую безопасность для себя в этом вопросе, — поделился мнением Красников.

По словам Красникова, необходимо тщательно анализировать уязвимости фреймворков, на которых строятся языковые модели. Для этого требуются правила, регулирующие разработку методов обучения и прикладных моделей ИИ.

Академик отметил, что языковые модели лежат в основе суверенного искусственного интеллекта. Для прикладных задач, например создания лекарств, нужны более точные модели, обученные на больших данных, — они должны быть на порядок точнее языковых.

Ранее стало известно, что OpenAI решила временно прекратить обучение своих наиболее производительных ИИ-моделей — до появления уверенности в усилении мер безопасности. Компания ведет разбирательство по десяткам тысяч инцидентов.