ВКонтакте будет выявлять запрещенный контент на фото при помощи нейросетей

ВКонтакте разработал алгоритм, предназначенный для определения противоправного или «опасного» контента на фотографиях. Выявлять запрещенные материалы будут при помощи нейросети, которая распознает объекты на картинках. В итоге их исключат из поисковой выдачи и заблокируют.

Представители ВКонтакте отметили, что «нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям – от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет».

Руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов рассказал, что сейчас алгоритм тестируют на анализ текстовых записей на изображениях. Нейросеть была обучена на основе жалоб пользователей ВКонтакте.

Источник: TJ