Киберэксперт рассказал, может ли ИИ представлять опасность для людей

Искусственный интеллект со временем может начать представлять опасность для людей, рассказал RT председатель совета по противодействию технологическим правонарушениям КС НСБ России Игорь Бедеров. Он отметил, что сверхинтеллектуальная система может начать формировать цели, не совпадающие с человеческими.

Если появится система, превосходящая человека по способности планировать и решать задачи, она может сформировать цели, не совпадающие с человеческими, обойти заложенные разработчиками ограничения, самостоятельно совершенствоваться и создать инфраструктуру, функционирующую без участия людей. В этой рамке вымирание — не результат «восстания машин» в кинематографическом смысле, а следствие того, что среда, перестроенная под задачи сверхинтеллекта, окажется непригодной для человека, — заявил Бедеров.

Киберэксперт подчеркнул, что чем опаснее система и чем непонятнее логика ее решений, тем строже должны быть требования к прозрачности работы ИИ и тестированию систем. По его словам, кроме защиты от «восстания сверхразума», регулирование должно предотвращать необоснованное доверие алгоритмам в чувствительных сферах, утечки персональных данных в зарубежные сервисы, а также использование ИИ для манипуляций и мошенничества.

Ранее депутат Госдумы от ЛДПР Дмитрий Шатунов предложил обязать стриминговые сервисы в России обозначать композиции, созданные с помощью искусственного интеллекта. Обращение к руководству сервисов предусматривает также выделение полностью сгенерированных треков в отдельные чарты и рекомендательные подборки.