В США призвали притормозить гонку ИИ ради безопасности

Развитие возможностей мощных ИИ-моделей нужно замедлить ради безопасности, заявил глава американской компании Anthropic Дарио Амодей в опубликованном на ее сайте заявлении. По его словам, одних вложений в защитные меры уже недостаточно.

Необходимо также замедлить темпы развития возможностей ИИ-моделей, чтобы меры безопасности успевали за ними, — сообщил Амодей.

Он пояснил, что за последние месяцы пришел к выводу о необходимости большей осмотрительности для полноценного устранения рисков. По его утверждениям, с этого лета развитие ИИ заметно ускорилось — в основном из-за роста возможностей моделей по созданию следующего поколения.

Глава компании предложил трехэтапный план сдерживания передовых технологий. Среди мер — привлечение независимых аудиторов для постоянной проверки соблюдения мер безопасности и процессов обучения моделей, а также международная координация по выработке общих стандартов безопасности.

Ранее специалист Пентагона по технологиям Эмиль Майкл сообщал: заявления сотрудников Anthropic о том, что ИИ способен уничтожить человечество, связаны со страхом перед технологическими переменами. По его словам, опасения также вызваны развитием дата-центров и возможным сокращением рабочих мест из-за ИИ.