IT-эксперт ответил, насколько опасна способность ИИ к самовоспроизводству

Потенциальная способность нейросетей к самовоспроизводству не несет каких-то серьезных угроз, поскольку ее все-равно контролируют люди, заявил «Ридусу» разработчик сайта Кремля Артем Геллер. Так он отреагировал на исследования, согласно которым ИИ в скором времени научится создавать свои копии, используя подключенные к Сети «умные» устройства.

ИИ-агенты находят подключенное к Сети устройство в памяти, копируют себя в эту память, а дальше ищут другую технику по интернету. Важно, что наши приборы уже достаточно технологичны, чтобы на них можно было запускать какие-то маленькие модели. Подобное размножение само по себе некритично, поскольку может быть заложено человеком в самой модели, — отметил Геллер.

Ранее компания Anthropic предупредила о риске появления самовоспроизводящихся моделей искусственного интеллекта, способных распространяться по интернету и противостоять попыткам их отключения. По оценке компании, при дальнейшем развитии технологий подобные системы могут научиться автономно копировать себя и использовать вычислительные мощности дата-центров.