Google и еще одна дочерняя структура компании Alphabet — технологический инкубатор Jigsaw совместно работают над проектом Perspective, системой искусственного интеллекта, предназначенной для выявления оскорбительных комментариев. Недавно выпущенный API системы позволяет получить количественную оценку, указывающую на вероятность восприятия заданного комментария в качестве оскорбительного.
Пользуясь этой функцией, можно будет разрабатывать системы автоматической фильтрации постов, выдачи предупреждений авторам перед публикацией и т. п. В Jigsaw рассматривают заявления о доступе к Perspective от заинтересованных разработчиков с описанием проектов, в которых планируется использовать API.
Попробовавшие Perspective указывают на несовершенство системы, сообщая что она, например, отмечает в качестве оскорбительных хвалебные комментарии, в которых слова вроде «чертовски» используются для усиления эффекта. Но разработчики обещают дорабатывать систему с учетом отзывов.
В создании Perspective принимали участие специалисты New York Times; в газете признаются, что просматривают лишь около 10% комментариев к публикациям, поскольку на сквозную модерацию ресурсов не хватает. В Google системой могут воспользоваться для автоматической фильтрации комментариев на YouTube.
