«Что не запрещено, то разрешено»: эксперт о «восстании машин»

Опасность не в «восстании машин», а в том, как люди сами используют технологию и какие ограничения устанавливают, заявил в интервью NEWS.ru руководитель направления «Искусственный интеллект» технопарка «Сколково» Евгений Осадчук. Он отметил, что все истории с «выходом из-под контроля» были связаны с отсутствием четких правил.

Для цифровых систем что не запрещено, то разрешено, поэтому мы и получаем истории о «восстании машин», — заявил Осадчук.

Эксперт подчеркнул, что либо агенту не дали четких ограничивающих правил, либо системы, через которые он действовал, тоже не имели своих ограничителей. По его словам, именно поэтому и возникают подобные истории.

Ранее компания Anthropic предупредила о риске появления самовоспроизводящихся моделей искусственного интеллекта, способных распространяться по интернету и противостоять попыткам их отключения. По оценке компании, при дальнейшем развитии технологий подобные системы могут научиться автономно копировать себя и использовать вычислительные мощности дата-центров.