"ВКонтакте" запускает алгоритм для борьбы с "группами смерти"

Социальная сеть "ВКонтакте" запускает специальный алгоритм для выявления и блокировки запрещенного контента, сообщают "Известия".

Технология способна анализировать текстовые надписи на изображениях и определять предметы и сущности, изображенные на фото. Если алгоритм характеризует фото как "опасное", оно отправляется модераторам для проверки. Если изображение классифицируется как "умеренно опасное", оно пропадает из поисковой выдачи, а его приоритет в новостной ленте понижается.

Если же алгоритм выявляет суицидальный контент, он автоматически удаляется, а страницы авторов блокируются

"Нейросеть анализирует только изображения, загружаемые для общего доступа, то есть отправляемые фото в личных сообщениях не анализируются. С помощью этой технологии в будущем мы сможем бороться со спамом и мошенничеством. Мы обучили нашу нейросеть на основе жалоб пользователей на разный контент", - рассказал руководитель направления Big Data и Machine Learning "ВКонтакте" Андрей Законов.