Социальная сеть Вконтакте работает над созданием искусственного интеллекта для распознавания материалов с враждебными высказываниями. Задача новой технологии — помочь пользователям реже сталкиваться с проявлением нетерпимости.

Разработчики нейросети планируют обучить ее распознавать различные категории угроз и оскорблений: ксенофобию, расизм, гомофобию, сексизм и оскорбления на почве принадлежности к той или иной религии.

Чтобы упростить работу нейросети, социальная сеть добавила новую категорию жалоб — “враждебные высказывания”. Сотрудники поддержки оперативно рассматривают все жалобы, а также проводят активный мониторинг контента на наличие признаков враждебных высказываний.

За первую половину 2020 года Вконтакте было удалено 520 тысяч единиц контента, заблокировано 1340 профилей и 2470 сообществ, которые распространяют враждебные высказывания.