«Страхи реальны»: Медведев высказался о стремительном развитии ИИ

Опасения по поводу слишком быстрого развития искусственного интеллекта оправданы, заявил в своем Telegram-канале заместитель председателя Совета безопасности России Дмитрий Медведев. Однако он считает, что разработчики генеративных моделей лукавят, когда говорят о рисках для человечества.

Картина дня пестрит размышлениям создателей AI о том, что человечество поторопилось. Что искусственный интеллект опасен, непредсказуем и слишком быстро развивается по не вполне ясным нам законам. <...> Реальны ли такие страхи? <...> Ответ прост: реальны.<...> Но создатели различных вариантов генеративного ИИ лукавят, — отметил Медведев.

Он пояснил, что создатели ИИ опасаются не гибели человеческой цивилизации, перспектива которой туманна, а иного сценария: когда программный продукт с продвинутой нейросетью, управляющий крупным производством или транспортным узлом, причинит колоссальный ущерб. В таком случае ответственность ляжет на создателей AI — им предъявят многомиллиардные иски, резюмировал Медведев.

Ранее бывший исследователь Anthropic Джейкоб Коксон, объявивший о своем уходе из ИИ-индустрии, оценил перспективы создания сверхинтеллекта. Он предложил рассматривать появление такой технологии как призыв неизвестного инопланетного разума.