Глава Anthropic призвал ООН ввести международные правила для ИИ

Глава Anthropic Дарио Амодеи выступил за разработку международных стандартов безопасности в сфере искусственного интеллекта, свою позицию он представил на заседании Совета Безопасности ООН. По мнению Амодеи, работу над общими правилами следует начать с отдельных соглашений, регулирующих наиболее опасные сценарии применения ИИ. В качестве одного из примеров он привел запрет на использование искусственного интеллекта для создания биологического оружия, пишет novosvyat.ru.

В числе дальнейших мер глава Anthropic назвал создание систем проверки, способных соответствовать темпам развития ИИ-моделей, а также введение единых требований к их тестированию. Такие процедуры, по его словам, должны позволять оценивать риски потери контроля над технологиями и их незаконного применения.

Кроме того, Амодеи предложил создать международный механизм уведомления об инцидентах, связанных с искусственным интеллектом. Угрозы, которые несет развитие ИИ, он назвал одной из важнейших проблем в сфере глобальной безопасности.

Ранее генеральный директор OpenAI Сэм Альтман на заседании Совета Безопасности ООН заявил, что системы искусственного интеллекта становятся все более мощными и автономными. По словам Альтмана, развитие ИИ может происходить быстрее, чем существующие институты успевают реагировать на происходящие изменения.