Стартап AntiToxin, занимающийся онлайновой безопасностью, обнаружил, что поисковая система Bing содержит детскую порнографию. В исследовании компании говорится, что пользователям также предлагали соответствующие запросы и изображения в качестве рекомендаций.
При вводе таких фраз, как «porn kids», «porn CP» и «nude family kids» специалисты, предварительно отключив безопасный режим, свободно получали доступ к запрещённому контенту. Более того, когда они набирали «Omegle Kids» (популярный чат среди подростков), то автозаполнение Bing предлагало им фразу «Omegle Kids Girls 13», сообщает издание TechCrunch, выступающее заказчиком исследования. При переходе по этому запросу поисковик выдавал множество фотографий с детской порнографией, кликнув на которые AntiToxin обнаружил ещё больше незаконных изображений.
Журналисты предоставили полный список опасных поисковых запросов в Microsoft вместе с вопросом о том, как это произошло. Позже главный вице-президент компании по продуктам Bing и AI Джорди Рибас заявил, что компания немедленно приняла необходимые меры — собранная команда разработчиков исправила обнаруженные исследователями проблемы и сейчас она работает над блокировкой любых подобных запросов. AntiToxin подтвердил эту информацию, однако, как отметили специалисты, по некоторым фразам всё ещё можно обнаружить нелегальный контент.
«Мы индексируем всё, как это делает Google, и мы делаем всё возможное, чтобы всё проверить. Мы используем PhotoDNA в связке с человеческой модерацией, но результат получается идеальным не всегда. С каждым разом мы стараемся стать лучше», — рассказал представитель Microsoft.
В начале декабря News.ru опубликовал эксклюзивное расследование, посвящённое «аренде» детей в Интернете.
