Роскомнадзор запустил систему автоматического поиска запрещённого фото- и видеоконтента «Окулус»

Она работает как классификатор данных и обрабатывает свыше 200 тысяч материалов в сутки.

РКН начал работать с системой автоматического поиска противоправного контента в изображениях и видеозаписях «Окулус», сообщил «Ведомостям» представитель подведомственного РКН Главного радиочастотного центра (ГРЧЦ), который выступал заказчиком.
Детали ГРЧЦ не раскрыл, но сказал, что система протестирована ещё в декабре 2022 года и теперь «выполняет возложенные задачи в полном объёме». Она распознаёт сцены, действия, символы и тексты и фиксирует те, что указывают на экстремизм, продвижение наркотиков, «пропаганду ЛГБТ», призывы к «массовым незаконным мероприятиям» и суициду.
Система работает как «классификатор с заданным набором источников» и умеет анализировать страницы сайтов, а также профили и паблики в соцсетях, пояснила гендиректор компании «Социальная лаборатория» Наталия Тылевич. По её словам, непосредственно сбором данных «Окулус» не занимается.
Без «Окулуса» сотрудники РКН были вынуждены искать запрещённый контент «преимущественно вручную»: в день один оператор в среднем обрабатывал по 100 изображений и роликов. Новая система, в свою очередь, изучает более 200 тысяч единиц контента в сутки.
Гендиректор Лиги безопасного интернета Екатерина Мизулина отметила: полученная системой информация «не будет автоматически куда-либо отправляться — в том числе для возбуждения дел и внесения в реестр запрещенных сайтов». Анализировать результаты будут «в связке с другими инструментами и человеком» — чтобы не допустить «ложного срабатывания».
До 2025 года ведомство хочет добавить в систему новые классы и типы нарушений, а также функции «определения поз людей и их действий». Её также научат выявлять противоправные элементы «на нескольких кадрах в видеофрагментах, в сложных рукописных текстах и рисованном контенте», говорят собеседники газеты.
Потребность в инструменте регуляторы объясняют «лавинообразным потоком» нежелательных с точки зрения российских законов материалов — в том числе «фейков». Их нужно блокировать до того, как их увидит весь интернет и особенно дети и молодёжь, считают в ГРЧЦ.
О планах разработать «Окулус» РКН и ГРЧЦ говорили ещё в сентябре 2021 года. В августе 2022-го РКН решил выделить на это 57,7 млн рублей.