«ВКонтакте» разработала алгоритм для борьбы с «группами смерти»
«ВКонтакте» разработала алгоритм для борьбы с «группами смерти»




15:45 24.03.2017

|   1654 прочтения



Социальная сеть «ВКонтакте» начала использовать умную новостную ленту для борьбы с «группами смерти», склоняющий детей к самоубийствам. Специальный алгоритм присваивает картинкам рейтинг, определяя, содержат ли они запрещенный или опасный контент. Если да, то такие изображения не попадают в поисковую выдачу.

 

Используемая нейронная сеть определяет предметы и сущности на фотографиях, пишут «Известия». Она понимает не только, что значит «человек», «ребенок», «животное», «растение», но и может определить предмет одежды или символ «группы смерти». В целом имеется несколько тысяч классов, присваиваемых картинках по нескольким параметрам. Если изображение охарактеризовано как запрещенное, оно отправляется модераторам для проверки. Если оно признано умеренно опасным, то пропадает из поиска и теряет приоритет в новостной ленте. Картинки с суицидальным контентом, однако, удаляются автоматически, а страницы их авторов блокируются. Технология способна анализировать и текстовые надписи.

Умная лента была введена в социальной сети в прошлом году. Принцип ее работы заключается в том, что записи друзей отображаются в приоритетном порядке, с учетом интересов пользователя: чему он больше ставит лайки, то чаще и видит. Сделано это для того, чтобы каждый получал максимально интересную и полезную для него информацию. Сегодня такой лентой пользуются 80% активной аудитории «ВКонтакте», пишет издание.

Данный механизм поможет остановить распространение спама, мошенничества, детской порнографии, нелегальных услуг и другой запрещенной информации, считают разработчики.


Теги: Информационная безопасность Социальные сети Нейронные сети ВКонтакте
На ту же тему: