Детектирование деструктивного мультимедиа контента в социо-киберфизической системе мониторинга сети Интернет

В докладе рассматривается проблема мониторинга и фильтрации мультимедиа контента в сети Интернет в части автоматизированного детектирования сцен насилия и агрессии. Задачи обеспечения безопасности индивидуального, группового и массового сознания, включая защиту от деструктивных информационных воздействий и от использования информационных технологий для пропаганды терроризма является одним из основных направления научных исследований в области обеспечения информационной безопасности Российской Федерации. В докладе приводится обзор существующих научно-технических решений в данной области и предлагается подход к детектированию целевого контента. Модель состоит из легких сверточных нейронных сетей для извлечения признаков и модели GRU для кодирования изменений кадров, характеризующих сцены насилия, существующие в видео. Исследованная архитектура имеет потенциал применения на мобильных платформах с низкими вычислительными возможностями, например, Nvidia Jetson Nano. Предложенное методическое обеспечение может быть использовано в реализации модулей распознавания сцен насилия и агрессии в видеопотоке для комплексных социо-киберфизических систем мониторинга.