Google будет модерировать онлайн-комментарии с помощью искусственного интеллекта
Google будет модерировать онлайн-комментарии с помощью искусственного интеллекта




10:19 27.02.2017

|   1603 прочтения



Попробовавшие Perspective указывают на несовершенство системы: она, например, отмечает в качестве оскорбительных хвалебные комментарии, в которых слова вроде «чертовски» используются для усиления эффекта.

 

Google и еще одна дочерняя структура компании Alphabet — технологический инкубатор Jigsaw совместно работают над проектом Perspective, системой искусственного интеллекта, предназначенной для выявления оскорбительных комментариев. Недавно выпущенный API системы позволяет получить количественную оценку, указывающую на вероятность восприятия заданного комментария в качестве оскорбительного.

Пользуясь этой функцией, можно будет разрабатывать системы автоматической фильтрации постов, выдачи предупреждений авторам перед публикацией и т. п. В Jigsaw рассматривают заявления о доступе к Perspective от заинтересованных разработчиков с описанием проектов, в которых планируется использовать API.

Попробовавшие Perspective указывают на несовершенство системы, сообщая что она, например, отмечает в качестве оскорбительных хвалебные комментарии, в которых слова вроде «чертовски» используются для усиления эффекта. Но разработчики обещают дорабатывать систему с учетом отзывов.

В создании Perspective принимали участие специалисты New York Times; в газете признаются, что просматривают лишь около 10% комментариев к публикациям, поскольку на сквозную модерацию ресурсов не хватает. В Google системой могут воспользоваться для автоматической фильтрации комментариев на YouTube.


Теги: Самое интересное Google Социальные сети Искусственный интеллект
На ту же тему: