OpenAI «наказала» свои ИИ-модели из-за проблем с безопасностью

Американская компания OpenAI временно отказалась от дальнейшего обучения своих самых производительных моделей искусственного интеллекта. Возобновить процесс планируется лишь после того, как появится уверенность в наличии дополнительных мер безопасности, сообщил порталу Axios представитель организации.

По данным источников издания, специалисты OpenAI и Anthropic проводят разбирательство по нескольким десяткам тысяч инцидентов, зафиксированных за последние месяцы — как в ходе тестов, так и в реальных условиях эксплуатации. Значительная часть этих случаев пока не предана огласке, а масштаб проблемы, по оценке портала, может оказаться на порядки серьезнее, чем представляется общественности.

Предварительное расследование, проведенное сотрудниками обеих компаний совместно с приглашенными экспертами, поставило под сомнение способность OpenAI и Anthropic полностью контролировать собственные технологии. Компании пока не раскрывают детали расследования и не называют сроков возобновления обучения моделей.

Ранее руководители двух крупнейших компаний в сфере искусственного интеллекта — Сэм Альтман из OpenAI и Дарио Амодеи из Anthropic — получили вызов на слушания в сенате Австралии. Поводом стал взлом автономными ИИ-агентами правительственных сайтов США и Австралии.