Роскомнадзор запустил систему автоматического поиска запрещенного контента "Окулус". В ведомстве заявили, что она уже работает и способна за сутки "эффективно обработать" более 200 тысяч изображений. Пока что "Окулус" ищет экстремизм, призывы к акциям протеста и суициду, а также пропаганду наркотиков и ЛГБТ. В дальнейшем систему планируют использовать для быстрого поиска "фейковой" информации о войне в Украине. Корреспондент Север.Реалии выяснил, чем нововведение грозит обычным пользователям интернета.
"Окулус" работает с картинками и видеоконтентом. По данным Роскомнадзора, система будет анализировать более 200 тысяч изображений в сутки. Власти надеются, что это "повысит эффективность выявления признаков нарушений". До внедрения системы сотрудники РКН искали запрещенный контент вручную: в среднем операторы обрабатывали чуть больше ста изображений и видео в день.
Подписывайтесь на инстаграм и телеграм Север.Реалии. Там мы публикуем контент, которого нет на сайте!
Систему еще будут усовершенствовать до 2025 года. Рассматривается "возможность добавления новых классов и типов нарушений, а также функции определения поз людей и их действий". В августе 2022 года на "Окулус" выделили почти 58 миллионов рублей. Разработкой системы занималась компания "Эксикьюшн Эр Ди Си".
Контент под колпаком?
С внедрением "Окулуса" повысились риски неправомерного преследования пользователей за публикацию и репосты фото- и видеоконтента, считает руководитель проекта "Роскомсвобода" Артем Козлюк, поскольку контент будут блокировать, а данные пользователя передавать в полицию.
– В каких-то случаях Роскомнадзор будет принимать решение о блокировке сам, в каких-то отправлять их для анализа в другие ведомства, которые имеют право выносить решения о внесудебной блокировке, например, в Генпрокуратуру, МВД, Роспотребнадзор и т.д. Или будет отправлять данные в правоохранительные органы для преследования самих авторов публикаций или тех, кто запостил что-то неугодное. Это могут быть и политические, и общественные активисты, а могут быть простые неравнодушные люди, которые случайно попадут под раздачу наказаний, – говорит Козлюк.
Система, по его мнению, вероятнее всего, будет отслеживать контент и в запрещенных на территории России соцсетях.
– Мы видели ранее на госзакупках запрос на системы поиска и мониторинга контента со стороны госорганов не только российских соцсетей, но и в Facebook, Instagram, Twitter, YouTube, Telegram. Мне кажется, российским надзорникам и правоохранителям интересны для анализа и российские, и иностранные сервисы, и лидеры мнений в них, особенно те, у кого много подписчиков. Если говорить про иностранные сервисы, то это в первую очередь, конечно, YouTube и Telegram. Facebook относительно не так популярен в России, Twitter тоже, Instagram не настолько политизирован. Но где-то сыграет фактор "где проще поймать человека для пополнения статистики" - и это, конечно, проще сделать через VK, – отмечает Козлюк.
Адвокат и старший партнер проекта "Сетевые свободы" Станислав Селезнев тоже считает, что блокировка соцсетей в РФ не преграда для Роскомнадзора, поскольку она не предполагает запрета на использование. К тому же, "Окулусом" могут дополнительно проверить контент, который был опубликован много лет назад.
– Из рисков для пользователей можно выделить проверку медиапубликаций в соцсетях за предыдущие лет 20 на предмет мелькнувшей запрещенной символики: от свастики в отрывках фильмов про зомби-нацистов до Тризубов в фотоальбомах о путешествиях в Крым, а также запрещенных песен, видеороликов и насмешек над президентом. А за предыдущие 10 лет – по признакам оправдания террористической деятельности, призывах к экстремизму и реабилитации нацизма, – рассуждает Селезнев.
Так же к рискам можно отнести возможную более оперативную реакцию властей на онлайн-стримы, которые могут анализироваться в автоматическом режиме. Система, скорее всего, не будет распознавать иронию, считает Селезнев, поэтому, репосты условной "Международной Пилорамы" и высказывания депутатов могут вызвать срабатывание алгоритма.
Эффективность "Окулуса"
Эффективность системы оценить пока очень сложно.
– Мы не знаем в действительности, работает ли эта система и насколько эффективно. Общественности не представлены сведения о точном количестве проверенных медиафайлов, выявленных запрещенных материалов и, главное, процент пропусков и ложных срабатываний системы. Возможно, в какой-то внутренней отчетности эти цифры есть, но какой-то независимый аудит пока затруднителен. Сам код системы тоже закрыт и невозможно убедиться в том, что он написан грамотно и реализует декларируемые функции, – отметил Селезнев.
Артем Козлюк считает, что в России есть компании, которые могут предоставлять такие программно-аппаратные комплексы, поэтому "Окулус", скорее всего, будет работать.
Сообщение о начале работы системы "Окулус" последовало сразу после публикации в СМИ данных из взломанной внутренней сети Главного радиочастотного центра, это организация-исполнитель Роскомнадзора. В руки журналистов попали переписка сотрудников ведомства, отчеты, документация и другие данные.
Согласно опубликованным документам, деятельность Роскомнадзора далеко выходит за рамки официально заявленных задач. Выяснилось, например, что ведомство тайно составляет досье почти на всех известных журналистов и общественных деятелей, которые критически настроены по отношению к российской власти, а также на независимые СМИ. Досье состоят из подробных биографических данных и ссылок на личные аккаунты в соцсетях. Кроме того, РКН следит за постами о здоровье Владимира Путина и планирует создать свою "бот-ферму".
Эксперты считают, что нельзя сказать наверняка является ли сообщение об "Окулусе" ответом на публикацию взлома.
– Известно лишь, что РКН передает в СМИ информацию об "Окулусе" на той же неделе, что появляются публикации о сливе сведений в его структурном подразделении. Дальнейшие рассуждения уже из области предположений, - подытожил Селезнев.
Проект "Сетевые свободы" не исключает, что сообщение о запуске системы – это попытка "антикризисной пиар-акции", поскольку "Окулис" должен стать одним из центральных элементов системы сетевой цензуры.
