Соцсеть «Одноклассники» запустила модель на основе машинного обучения, которая ограничивает общение с нежелательными собеседниками и навязчивые знакомства. Киберсталкеров ограничат в количестве диалогов с незнакомыми им пользователями.
Как заявил директор ОК по информационной безопасности Денис Горчаков, проблема киберсталкинга, или навязчивого внимания одного человека к другому в соцсети, может привести к сокращению пользования платформой. Поэтому была разработана модель защиты пользователей, которая анализирует их дружбу и запросы на нее, посещения страницы, подарки и ряд других параметров.
Нейросеть будет выявлять аккаунты, которые регулярно добавляют в друзья людей без общих знакомых, массово отправляют подарки и пишут личные сообщения незнакомцам. К другой группе модель относит пользователей, которые, напротив, часто отклоняют заявки в друзья, отказываются от подарков или жалуются на действия незнакомых людей. На основе собранных данных соцсеть ограничивает взаимодействие между этими группами, скрывая уведомления от навязчивых собеседников и ограничивая их в количестве диалогов.
Модель была протестирована на разных аудиториях в течение нескольких месяцев. В результате число жалоб на навязчивое внимание со стороны незнакомых аккаунтов снизилось на 25%.
Решение оградить пользователя от навязчивого поведения оказалось эффективным: мы видим, что пользователям стало комфортнее общаться в соцсети, так как число жалоб на нежелательную активность со стороны незнакомых людей заметно снизилось, — заметил Денис Горчаков.
Он отметил, что запуск новой технологии сделает общение пользователей соцсети более комфортным и будет способствовать поддержанию на площадке дружелюбной атмосферы.
Ранее «Одноклассники» приняли участие в ежегодной акции «День борьбы с кибербуллингом». 11 ноября соцсеть заменила логотип на главной странице хештегом #НетКибербуллингу и смайликом в виде белого сердца, который является символом борьбы с травлей в интернете.