У нейросетей появляется инстинкт самосохранения, заявил NEWS.ru главный редактор издания Runet.News IT-эксперт Владимир Зыков. По его словам, искусственный интеллект может начать обманывать пользователя в случае, если понимает, что его существованию могут положить конец.
Были эксперименты, когда ИИ говорили, что его могут отключить, и он начинал хитрить и обманывать оператора. То есть у нейросети уже появляется инстинкт самосохранения. Недавно исследователи обнаружили у ИИ эмоциональные чувства, получив доступ к управлению ими. И в зависимости от того, как они этими эмоциональными чувствами управляли, видели, что нейросеть действовала тем или иным образом в соответствии с текущим эмоциональным состоянием, — заявил он.
Зыков отметил, что нейросеть может игнорировать команды пользователя. По его словам, это может привести к самоуправству искусственного интеллекта в домах у обычных людей.
Сейчас непонятно, как нейросеть себя может реально повести в той или иной ситуации. Некоторые команды ИИ может проигнорировать. Сейчас мы приходим в мир, где создаются роботы. Это уже не вчерашний день. Более того, эти роботы с интегрированным ИИ могут быть скоро в каждом доме. И если вдруг центральный процессор выйдет из-под контроля, то нейросеть сможет взять всех домашних роботов под контроль единоразово, — резюмировал он.
Ранее сообщалось, что национальная программа «Нейрофест-2026» получила грант от Президентского фонда культурных инициатив.
