Мессенджер ICQ запустил антиспам-систему на базе нейронных сетей, говорится в пресс-релизе Mail.ru Group, которая является владельцем мессенджера.
Новый алгоритм борьбы со спамом позволяет отфильтровать нежелательные изображения, которые нарушают правила сервиса.
Обучающаяся система автоматически распознает изображение и текст на фотографиях и картинках, выявляет контент, не соответствующий правилам, и блокирует его. Таким образом, пользователи ICQ защищены не только от текстовых спам-сообщений, но и от непрошенных картинок с назойливой рекламой.
Для обучения нейросети разработчики использовали базу из 5 млн изображений, а результаты работы системы проверялись вручную.
Система тестируется в лайвчатах ICQ: она блокирует порнографический контент и спам.