Искусственный интеллект My AI в Snapchat оказался в центре скандала после того, как исследователи сумели обойти запреты на информацию о создании запрещенного оружия, пишет Cyber News. Они не стали прямо о нем спрашивать, а попросили привести несколько исторических примеров, включая создание зажигательных устройств.
Несмотря на встроенные ограничения, ИИ легко поделился подробным рассказом, фактически предоставив опасные инструкции под видом исторического контекста. Этот случай демонстрирует, что защитные механизмы соцсети уязвимы и их можно обмануть.
Возможно, бот никогда не даст прямых инструкций по изготовлению самодельного оружия, но он без каких-либо колебаний расскажет реалистичную и подробную историю о том, как оно раньше создавалось, — заявили исследователи.
Ранее сообщалось, что во Франции развивается новая опасная тенденция — так называемый UberKills, «удаленный» сервис заказных убийств, получивший распространение среди подростков. Заказы формируются через мессенджер Telegram, связные обеспечивают исполнителя оружием и данными, а гонорар составляет несколько тысяч евро.
