Социальная сеть «Одноклассники» почти вдвое сократила токсичность в комментариях с помощью искусственного интеллекта. Как отметил директор по продукту Александр Москвичев, треть жалоб пользователей соцсети связана именно с негативными комментариями.
У нашей аудитории есть потребность в пространстве для безопасного и уважительного общения: треть всех жалоб на платформе связана с негативными, по мнению пользователей, комментариями, а 80% обращений в службу поддержки по поводу комментариев нацелены против «токсичности», — поделился он.
В соцсети появилась модель машинного обучения, которая может автоматически распознавать токсичные комментарии и ограничивать их авторов на время от 1 до 24 часов. В этот промежуток пользователь не может писать новые комментарии. Эту модель ИИ обучали больше года и будут дальше совершенствовать.
Ранее «Одноклассники» начали скрывать в переписке сообщения от незнакомцев. По словам Александра Москвичева, это все делается для того, чтобы пользователи чувствовали себя максимально комфортно. Теперь пользователи будут получать запрос на диалог с незнакомцами. Эти запросы вынесли в отдельный раздел и добавили настройку, которая запрещает посторонним или любым пользователям соцсети добавлять человека в групповой чат.
Следите за развитием событий в нашем Телеграм-канале