Киберэксперт оценил, насколько нейросети подконтрольны человеку

Нейросети пока полностью находятся под контролем людей — их создавали на базе принципа «не навреди человеку», заявил НСН эксперт по кибербезопасности Александр Дворянский. При этом, по его мнению, в будущем имеет смысл разработать механизмы экстренной остановки систем ИИ для предотвращения потенциально опасных ситуаций.

[При использовании ИИ] логично иметь «стоп-кран», который в моменте сможет остановить и откатить все до начальных результатов. Сегодня задачу ставит человек и принимает результат работы тоже он. Потенциальный риск выхода из-под контроля, конечно, есть. Но опять же, у ИИ есть первый «закон роботов», то есть робот не может причинить вред человеку. Здесь примерно та же идеология. Это «стоп-слово» заложено изначально, — подчеркнул Дворянский.

Он отметил, что российские нейросети считаются одними из самых развитых в мире. Эксперт добавил, что ИИ, действительно, может работать автономно, однако степень его самостоятельности регулирует человек.

Ранее IT-эксперт Гордей Живалов заявил, что при частом обращении искусственный интеллект начинает врать пользователю, подстраиваясь под его точку зрения даже в ущерб фактам. По его словам, это явление, известное как сикофантия, или цифровое подхалимство, признано системной проблемой, а не разовым сбоем в работе нейросетей.