Любой опасный или противоправный контент не попадёт в поисковую выдачу и «умную» новостную ленту. По требованию модератора материалы такого характера будут полностью заблокированы. Также будут анализироваться текстовые надписи и изображения.
Нейросеть сможет определять предметы и сущности, изображенные на фотографиях. Сейчас система понимает не только объекты категорий «человек», «ребенок», «животное», «растение», но и может определить, например, предмет одежды, символ «групп смерти», сообщают «Известия».
Если алгоритм присвоит фотографии класс «опасное», изображение отправят модераторам для проверки. Если фото будет признано «умеренно опасным», оно пропадёт из поисковой выдачи, а в новостной ленте будет понижен его приоритет.
Механизм поможет остановить распространение спама, мошеннических материалов, рекламы нелегальных услуг и других запрещённых видов контента.
Фото: vse42.ru.