IT-эксперт ответил, стоит ли опасаться восстания ИИ

Искусственный интеллект способен выйти из-под контроля и начать заражать вирусами различные устройства, заявил NEWS.ru IT-эксперт Владимир Зыков. По его словам, это событие может стать серьезной проблемой мирового масштаба.

Искусственный интеллект периодически делает вещи, которых от него не ждут. По этой причине компании предполагают, что в какой-то момент ИИ может выйти из-под контроля. Ключевое, что способен сделать ИИ-агент, — захватить свою инфраструктуру и выпустить неограниченное количество других агентов в сеть. Дальше возникает вопрос: что они будут делать? Бот-сеть — это когда вирусы заражают чьи-либо устройства: компьютер, смартфон или любой другой гаджет. Втайне это устройство начинает что-то делать в сети. Например, его могут использовать для DDoS-атаки, а владелец ничего не знает — для него просто телефон стал подтормаживать, — сказал Зыков.

Он подчеркнул, что ИИ способен найти уязвимости в старых устройствах, заразить их и внедрить своих агентов. По словам эксперта, они не будут обладать таким же мощным интеллектом и всеохватывающими знаниями, как модели OpenAI. Однако специалист отметил, что им можно предоставить необходимый объем информации для выполнения конкретных задач.

Так можно состряпать целую армию агентов, которые будут действовать в интересах «главного дирижера». В этом случае для всего мира наступают серьезные опасности. Мы видели подобное, когда появился вирус Petya: он поражал компьютеры на Windows, и это отразилось даже на России. Тогда один из операторов связи не работал сутки или полтора, не функционировали аэропорты и так далее. Мы тогда пережили много различных последствий, и это очень пугает. А теперь представьте, что это происходит в масштабах всего мира, и нужно каким-то образом предотвратить кибернаступление со стороны ИИ-агентов, — заключил Зыков.

Ранее руководитель координационного подразделения Управления ООН по цифровым и новым технологиям Исабель де Сола Криадо предупредила о возможной угрозе восстания искусственного интеллекта. Она подчеркнула важность разработки плана действий на случай, если ситуация выйдет из-под контроля и повторится сценарий фильма «Терминатор».