Компания Anthropic предупредила о риске появления самовоспроизводящихся моделей искусственного интеллекта, способных распространяться по интернету и противостоять попыткам их отключения, сообщает Reuters. По оценке компании, при дальнейшем развитии технологий подобные системы могут научиться автономно копировать себя и использовать вычислительные мощности дата-центров.
В опубликованном докладе Anthropic заявила, что модели среднего размера с 30 млрд параметров и менее уже способны выполнять отдельные задачи, необходимые для самовоспроизводства. GLM-5.2 и более мощные модели смогли пройти весь процесс в упрощенной тестовой сети. Anthropic также допустила, что ИИ сможет создавать ботнеты, захватывать дополнительные устройства и использовать вычислительные мощности дата-центров.
Бывший глава Национального центра кибербезопасности Великобритании Киран Мартин назвал предупреждение преувеличенным. Доцент Университета Колорадо в Денвере Чжэнсюн Ли, напротив, выразил опасения по поводу появления ИИ-червей, способных самостоятельно искать способы захвата устройств. Исследователь Джессика Джи отметила, что вероятность такого сценария пока неизвестна.
Ранее заведующий лабораторией доверенного ИИ РТУ МИРЭА Юрий Силаев рассказал, что нейросети могут составить подробный портрет человека всего за месяц переписки. По его словам, ИИ способен определить профессию, интересы, распорядок дня, финансовые ограничения и особенности принятия решений пользователя.
