![](/upload/rk/a57/a5796f088ec2924730618bb4c69294fc.png)
ВКонтакте разработал алгоритм, предназначенный для определения противоправного или «опасного» контента на фотографиях. Выявлять запрещенные материалы будут при помощи нейросети, которая распознает объекты на картинках. В итоге их исключат из поисковой выдачи и заблокируют.
Представители ВКонтакте отметили, что «нейросеть имеет несколько тысяч классов, которые присваиваются фотографиям – от 0 до 1 по нескольким параметрам. Если алгоритм характеризует фото как «опасное», оно отправляется модераторам для проверки. Если же фото признано «умеренно опасным», оно пропадает из поисковой выдачи, а в новостной ленте понижается его приоритет».
Руководитель направления Big Data и Machine Learning «ВКонтакте» Андрей Законов рассказал, что сейчас алгоритм тестируют на анализ текстовых записей на изображениях. Нейросеть была обучена на основе жалоб пользователей ВКонтакте.
Источник: TJ