Насколько может быть эффективен мониторинг Рунета от Роскомнадзора
Публикация в медиа результатов изучения переписки сотрудников Роскомнадзора (РКН) всколыхнула информационную повестку. Среди прочего из нее стало известно, что власти продолжают автоматизировать поиск «запрещенного контента». В РКН подтвердили, что система распознавания образов с запрещенной информацией «Окулус» уже работает, а «Вепрь», который должен собирать посты и публикации в интернете и даже прогнозировать «точки информационной напряженности», на стадии испытаний.
«Вепрь» — не первая система мониторинга интернета, которую создает РКН. В сентябре 2021 года подведомственный ему Главный радиочастотный центр (ГРЧЦ) провел конкурс на разработку информационной системы «Мониторинг интернет-ресурсов» (ИС МИР-1) — автоматической системы поиска запрещенной информации в СМИ и соцсетях (такой, как признаки пропаганды экстремизма и терроризма, наркотиков и призывы к суициду).
Под «потенциальными точками напряженности» в сети, находить которые должен «Вепрь», вероятнее всего, подразумевается опасная концентрация информации в СМИ и социальных медиа, которые могут спровоцировать акции протеста или другие проявления недовольства со стороны большого числа граждан, рассуждает руководитель департамента информационно-аналитических исследований компании T.Hunter Игорь Бедеров. На российском рынке присутствуют системы схожего назначения («Медиалогия», «Крибрум», СЕУС, «Аваланч», «Демон Лапласа»), добавляет он. Кроме этого, использование расширенных операторов в поисковых системах и генераторов RSS-лент позволяет «буквально на коленке и бесплатно» создать схожий по функционалу мониторинговый центр.
При создании таких систем главная проблема — обучить нейросеть оценивать информацию, то есть распределять ее по категориям риска, считает Бедеров. Также сложно, добавляет он, обучить нейросети не выдавать постоянно ложную тревогу практически по любому поводу. По словам эксперта, чаще всего проблема «обучения» такой нейросети решается наймом штата сотрудников, которые вручную распределяют инциденты по категориям. «Если в любом случае нужен штат аналитиков, нет смысла переплачивать за квазиумные системы. По крайней мере на данном этапе», — считает Игорь Бедеров. По его мнению, «Окулус» — это простая нейросеть, позволяющая идентифицировать на фото и видеозаписях запрещенные тексты или символы. Подобная система распознавания входит даже в программный комплекс «Охотник», который сейчас ставится на вооружение органов внутренних дел, отмечает эксперт.
Читать статью в полной версии «Forbes»
