Социальная сеть Одноклассники внедрила модель машинного обучения для временного ограничения пользователей, оставляющих оскорбительные комментарии.
Теперь пользователи, оставляющие негативные или агрессивные комментарии, могут быть временно ограничены в возможности писать новые сообщения. Ограничения могут длиться от одного часа до суток, в зависимости от частоты появления таких комментариев.
Разработка была обучена на основе 400 тысяч оскорбительных высказываний, что позволило системе научиться распознавать недружелюбные или провоцирующие дискуссии комментарии. С запуском новой модели доля и количество токсичных высказываний на платформе сократились на 47%.
Как показало исследование «Одноклассников», более 40% пользователей считают негативные комментарии источником злости, что подчеркивает важность создания комфортной среды для общения.
Фото: freepik
?>
